试了下在5060 8g上跑 Swift-Bonsai-2-GGUF 1bit 量化。 二三十的tps搭配巨长的思维链,流口水的Qwen3.5-9B Q4_K_M 两三分钟干完的活(50tps左右),它干了快二十分钟。。。 1 个帖子 - 1 位参与者 阅读完整话题