我搞了两个号放在腾讯轻量云上搭的 Axonhub 轮询,速度非常慢,刚让 AI 统计了一下数据如下 一、总览 指标 数值 请求总数 8,245 流式 / 非流式 7,559 / 686(流式占 91.7%) 请求成功率 100%(0 个用户可见失败) 时间窗口 2026-09-20 08:50 → 2026-09-25 01:14(北京时间,4.7 天) 账号数 2(已合并) 提示 token 1,585.0M(缓存 1,547.3M / 新增 37.7M) 输出 token 8.92M(思考 4.47M / 可见正文 4.45M) 合计 token 1,594.0M 提示规模 p50 / p90 136,394 / 454,901 提示规模均值 192,242 二、速度(流式 7,559 条) 指标 数值 整条吞吐(总输出÷总耗时) 52.82 tok/s 中位单请求吞吐 53.1 tok/s 平均单请求吞吐 67.9 tok/s p10 / p90 13.9 / 145.3 tok/s 标准差 51.7 p90÷p10(离散度) 10.48 低于 20 tok/s 的请求占比 16.0% 首字后吞吐(含思考) 86.52 tok/s 首字后可见正文吞吐 42.91 tok/s 2 个帖子 - 2 位参与者 阅读完整话题


  • 情报分类:技术学习与提效
  • 分类依据:内容涉及技术、AI、软件工具或工程实践
  • 信息来源:服务器 / LINUX DO - 最新话题
  • 发布时间:2026/9/26 09:03:16