huangserva : 卧槽！！！折腾整整一天！ 我真把 748B 的 DeepSeek V4.1-Flash 1017 在单张 4090 上跑起来了，而且速度居然一路冲到了 20+ tok/s！ 这次测的是刚刚开源的量化版本：Baekpica/DeepSeek-V4.1-Flash-1017-VQ-GGUF（采用 YoungAi 的 vq8sh14-q4k-mtpnative 矢量量化配方）。552B MoE + 196B Engram Link: https://x.com/servasyy_ai/status/2111795170073329695

  • 情报分类：技术学习与提效
  • 分类依据：内容涉及技术、AI、软件工具或工程实践
  • 信息来源：AI / AI前沿 / 铁锤人 @lxfater
  • 发布时间：2026/10/18 20:54:51