手里有两块 H100 96G 版,用的 AMD 平台,128G DDR5 内存。 目前使用 vLLM 部署的 qwen3.8 27B 感觉有点大材小用,求推荐更合适的模型。 主要用途: 1.本地 agent 调用 2.部分编码工作 3.rag 问答


  • 情报分类:硬件与数码
  • 分类依据:内容涉及硬件、数码产品或通信卡
  • 信息来源:服务器 / V2EX
  • 发布时间:2026/10/15 09:53:23