本地跑一个125B的q4_k_xl量化模型,大概63tokens/秒,这比之前的Qwen3.8-27B强太多了。 1 个帖子 - 1 位参与者 阅读完整话题


  • 情报分类:综合情报
  • 分类依据:内容未命中明确的垂直分类规则,归入综合情报
  • 信息来源:服务器 / LINUX DO - 最新话题
  • 发布时间:2026/10/20 13:36:54