现在各公司开放的模型，云上只能看到模型名，最多调个思考强度。但按本地部署经验，满精度和 4-bit 以下量化，资源消耗和推理能力差距都很大。 想问下，有没有哪里能看到这些云端模型的实际量化程度？官方不公开的话，有什么间接判断的方法吗？ 1 个帖子 - 1 位参与者 阅读完整话题

  • 情报分类：技术学习与提效
  • 分类依据：内容涉及技术、AI、软件工具或工程实践
  • 信息来源：服务器 / LINUX DO - 最新话题
  • 发布时间：2026/10/11 01:10:10