如图所示，感觉还是不错的，但是貌似没理解为什么大晚上出现了一个大太阳。 用的是unsloth Qwen q4_K_XL的gguf，部署到AMD 7900xtx显卡，没开视觉，开2的MTP下速度一般在50上下。然后145K的上下文在PI中还是稍微耐用。 1 个帖子 - 1 位参与者 阅读完整话题