本帖使用社区开源推广，符合推广要求。我申明并遵循社区要求的以下内容： 我的帖子已经打上 开源推广 标签： 是 我的开源项目完整开源，无未开源部分： 是 我的开源项目已链接认可 LINUX DO 社区： 是 我帖子内的项目介绍，AI生成、润色内容部分已截图发出： 否 以上选择我承诺是永久有效的，接受社区和佬友监督： 是 给社区各位佬友分享一下 HiRoute ，一个用 Rust 写的本地 AI 网关。它在 2026 年 9 月初的 AGNTCon + MCPCon China Keynote 演讲中正式宣告开源。 做它主要是想让 Codex、Claude Code 的订阅更耐用一点。查资料、整理信息这些活，可以先交给便宜模型；架构取舍、复杂推理再用强模型。Agent 用自己熟悉的，不用为了换模型再换一套工具。 先放一段一分钟的演示： HiRoute 的“智能省钱”计划可以配省钱组和主力组，比如 Flash + Astra。什么时候切，由 Jev 这样的决策模型判断任务类型、复杂度，再结合阶段反馈，让 HiRoute 选择。不需要每一步都自己盯着切。 图里是 Flash/Max 的示例配置，模型可以自己换。同时还支持自定义分支甚至自定义路由策略，更多内容可以参考我们的社区文档： 使用智能模型路由 · HiRoute 我们做了一组对照：在两轮混合与全 Astra 都通过验收的对照里，混合方案的 API 等价成本低了约 91%–92%，计入了重试和已报告的 Jev 开销。 实验记录 另外也把订阅、API、本地模型的接入配置收在了一起。接好模型来源，选好路由计划，再接到 Codex、Claude Code；实际用了什么模型、花了多少，都可以清晰地看到。 我也是 Higress 的维护者。Higress 是 CNCF Sandbox 项目 ， 快手、携程等企业 已在生产环境使用。HiRoute 想把这些 AI 网关实践带到个人开发者的桌面上。 目前有 macOS 桌面端，也有 Linux ARM64 / x86_64 的 CLI。欢迎大家拿自己的任务试试，有什么不好用的地方可以直接提 issue。 GitHub： GitHub - higress-group/HiRoute: A local-first routing and coordination engine for long-horizon agent tasks. · GitHub 下载： 下载 HiRoute · HiRoute 1 个帖子 - 1 位参与者 阅读完整话题

  • 情报分类：开源项目与落地
  • 分类依据：内容涉及项目实践、创业、副业或变现
  • 信息来源：服务器 / LINUX DO - 最新话题
  • 发布时间：2026/10/12 15:19:43