继上一帖子 910c部署模型 国产替代 最近想在公司空闲的910c上部署qwen3.8-27b跟qwen-image模型，佬友们有什么见解吗，还没试过在华为服务器上部署过，待我成功之后写一份踩雷教程 后部署的事终于有着落了，换了一台服务器部署，也成功部署了。 现在将我的经验喂给gpt，让它帮我写一份文档供各位佬友参考 Ascend 910 × 8 + Qwen3.8-27B + vLLM-Ascend 部署教程 本文是一篇基于真实服务器环境和实际部署过程整理的操作手册。 记录一次在 Ascend 910 × 8 + Kunpeng 920 + ARM64/aarch64 环境中，使用 vLLM + vLLM-Ascend 部署 Qwen3.8-27B 全量模型 的过程。 本文不仅记录最终的部署思路，也把实际部署过程中遇到的 Docker 镜像架构问题、A3/A2 配置混淆、NPU 映射、模型目录检查、容器验证、vLLM 服务验证等问题一起记录下来。 如果你也是第一次在昇腾 NPU 上部署 vLLM，建议从头到尾看一遍，不要直接复制最后的命令。 一、先说一下我的实际环境 本次部署的服务器并不是普通的 NVIDIA GPU 服务器，而是昇腾 NPU 环境。 实际服务器信息如下： 项目 实际配置 NPU Ascend 910 NPU 数量 8 单卡 HBM 64 GB 总 HBM 512 GB CPU Kunpeng 920 CPU 架构 aarch64 / ARM64 CPU Socket 4 NUMA Node 8 CPU Logical Processor 640 推理框架 vLLM + vLLM-Ascend 模型 Qwen3.8-27B 模型类型 全量模型，非量化版本 API OpenAI Compatible API API 端口 8000 服务器上的 npu-smi

  • 情报分类：技术价值
  • 命中依据：国产芯片部署模型经验，有技术价值
  • 来源：服务器 / LINUX DO - 最新话题
  • 原作者：henry
  • 发布时间：2026/9/9 15:12:04