试了下在5060 8g上跑 Swift-Bonsai-2-GGUF 1bit 量化。 二三十的tps搭配巨长的思维链，流口水的Qwen3.5-9B Q4_K_M 两三分钟干完的活（50tps左右），它干了快二十分钟。。。 1 个帖子 - 1 位参与者 阅读完整话题

  • 情报分类：技术学习与提效
  • 分类依据：内容涉及技术、AI、软件工具或工程实践
  • 信息来源：服务器 / LINUX DO - 最新话题
  • 发布时间：2026/10/16 16:43:31