舒服了，菜单用的是Mia的，tensorfold也在进化，这是一个兼容cuda和apple silicon的新框架，几乎是倍增vLLM EXL3也是新格式，相当于是nvfp4还小，但更接近bf16，好处是exl3不再是blackwell的专利， 新框架和新格式，都对旧卡友好，可以持续关注 1 个帖子 - 1 位参与者 阅读完整话题

  • 情报分类：技术学习与提效
  • 分类依据：内容涉及技术、AI、软件工具或工程实践
  • 信息来源：服务器 / LINUX DO - 最新话题
  • 发布时间：2026/10/8 17:31:13