这是我上篇的文章，其实我只开启了 128k的上下文，有的人说 rea 直接就 100k 上下文拉满了，其实并不会。 本地部署 qwen-3.8 + rea 没有不能逆向的软件【附带部署参数教程】 开发调优 [image] 这速度和质量不比降智的codex牛逼 给一个任务，直接从头走到黑 今天我把微信逆向了，聊天记录全部逆向出来了，中途什么都没有问我，直接干出来，wx号也被风控封了，好在已经解封了 对标的可是 opus4.6 我都不敢想qwen4出来将是什么怪物，感觉后续token自由不是梦呀 推荐AI直接部署了，手动部署 ，Ai部… 为什么？其实老早 pi 就考虑这件事了，并且把自己都嫌弃的mcp引入到pi了，做到了按需搜索加载 所以我一直非常推荐pi，本身精简 + 现在mcp的优化，非常适合接入本地模型，可以说是少一样效果都差点。 总结一下： 组件 说明 模型 Qwen3.8-Flash-Next ：125B 总参 / 每 token 激活 6B 的 MoE，另有 51B N-gram embedding 表和约 4B 的 MTP 头；48 层里只有 12 层（QSA）需要 KV cache；原生 262K 上下文 量化 ISTA-DASLab GSQ-RCO GGUF ：GSQ 负责每个张量怎么量化，RCO 在总大小预算下给每个张量分配量化类型 运行时 Strata （MIT）：常用专家放显存，其余专家锁在内存，N-gram 表放 SSD 用 mmap 读；自带 OpenAI / Anthropic 兼容接口和网页聊天 运行时 pi(0.99.0) ：按需搜索mcp工具 大家玩的开心 1 个帖子 - 1 位参与者 阅读完整话题

  • 情报分类：硬件与数码
  • 分类依据：内容涉及硬件、数码产品或通信卡
  • 信息来源：服务器 / LINUX DO - 最新话题
  • 发布时间：2026/10/14 16:38:40