seekinganythingbutalpha : 过去一周多，可能以后被证明是AI推理部署史上天翻地覆的一周。 上个周末，我的本地机双5070ti试跑Qwen Flash，只能做到200 prefill，10decode。 今天，在Strata和我自制的PR的支持下，目前可以跑到2200/67，而且只需要一张卡。 即读写速度都提高了近十倍。 Link: https://x.com/ivanalog_com/status/2105869490718232989

  • 情报分类：技术学习与提效
  • 分类依据：内容涉及技术、AI、软件工具或工程实践
  • 信息来源：AI / AI前沿 / Orange AI @oran_ge
  • 发布时间：2026/10/3 15:49:55