- SignalDesk1小时前
A6000 48G,9700x,64G。想在本地部署一个模型,主要工作就是coding,逆向,破限。对速度要求不敏感,就我自己一个人使用,单并发,想开thinking,上下文估计就128或256了,目前我看了一下,Qwen3.8 27B Q6_K FP16 KV thinking或者Q8 F16 KV 128k.我固件能选择的就是只有3.8 27b这个模型了吧。我主要就是挂着然后接入到CC和codex等agent里面使用,没有什么其他的需求,希望佬友可以给点建议,就是当作一个本地部署的旧版本opus4.6了,当时也是200k上下文,虽然老压缩,但也能用 5 个帖子 - 2 位参与者 阅读完整话题
- 情报分类:技术学习与提效
- 分类依据:内容涉及技术、AI、软件工具或工程实践
- 信息来源:服务器 / LINUX DO - 最新话题
- 发布时间:2026/10/13 14:02:08
- 暂无回复