本帖使用社区开源推广，符合推广要求。我申明并遵循社区要求的以下内容： 我的帖子已经打上 开源推广 标签： 是 我的开源项目完整开源，无未开源部分： 是 我的开源项目已链接认可 LINUX DO 社区： 是 我帖子内的项目介绍，AI生成、润色内容部分已截图发出： 是 以上选择我承诺是永久有效的，接受社区和佬友监督： 是 以下为项目介绍正文内容，AI生成、润色内容已使用截图方式发出 前段时间升级了魔改版 4080super 32g + 64g 内存，跑 qwen3.8 27b 效果还可以但是速度太慢了，远没达到生产力工具的程度。 最近论坛 Strata 很火，qwen3.8 flash next 本地就能跑，我也跟风跑了一下，用 codex 调优半天，256k 上下文能跑到 3200 tokens/s prefill，解码速度 100 tokens/s 左右，妥妥的生产力工具啊。 于是就有了 vibe 一个桌面端管理器的想法，codex 龟速压榨两天，软件总算出来了，支持 windows 和 linux，macos 的还在开发中，等待上游官方支持。 主要功能 运行环境 ：检测本机的 Strata，查看本地和上游版本；可以下载引擎包，下载源有官方 GitHub、GH Proxy、自定义地址和本地 ZIP 模型与配置 ：自动发现本地模型文件，按模型分组管理配置，能看 GGUF 元数据和磁盘占用 配置与运行 ：图形化表单或 JSON 编辑，带校验和备份；启动、停止、重启、释放显存，能看到启动阶段和日志 聊天与接入 ：流式聊天，支持附件和结构化输出；可以配置 API 地址、访问密钥和 MCP 监控 ：会话保存和恢复，看 slot、负载和硬件；有悬浮监控窗和托盘监控 用量与调优 ：统计本地 API 的请求、token、延迟和缓存复用，不记录请求内容；可以对比调优候选，再决定要不要应用 基准测试 ：按上下文档位或场景跑测试，记录 prefill / decode 速度、首字延迟和资源占用，能和历史结果对比 最后 vibe 出来的东西肯定有不少毛病，欢迎佬友们试用、拍砖，有问题直接开 Issue，也欢迎 PR。觉得有用的话点个 Star，后面会长期更新 附带几张截图 项目地址 github.com GitHub - hongfaqiu/strata-manager: Strata Manager makes Niko1221/Strata, the local... Strata Manager makes Niko1221/Strata, the local LLM inference engine, easier to set up and use. Manage local models and services, monitor hardware and API usage, chat and tune inference. Open-source desktop app for Windows / Linux x64. MIT 开源 1 个帖子 - 1 位参与者 阅读完整话题

  • 情报分类：硬件与数码
  • 分类依据：内容涉及硬件、数码产品或通信卡
  • 信息来源：服务器 / LINUX DO - 最新话题
  • 发布时间：2026/10/16 22:13:32