2.78万亿参数的模型,一颗CPU加8GB内存就能跑? 第一次看到我也不敢信。Kimi K3,纯C99写的推理,不用BLAS、不用框架、更不用GPU。硬盘上摆着1.56TB的权重,实测跑起来峰值内存才8.24GB,整个引擎就176KB。 内存多点,无非是换个速度: 1️⃣ 普通笔记本8GB,吐一个token要26.5秒 2️⃣ 128GB以上,只要5.6秒 关键是答案一模一样,连byte都不差,变的只有你等的时间。 想折腾的自己拉代码去看 🔗 https://github.com/FareedKhan-dev/kimi-k3-in-c 鸟哥 | 蓝鸟会🕊️: 谁还在手动截图写教程啊,一步步框选、打箭头、加说明,一套操作下来人都麻了。 Mimik 这个浏览器插件我看了下,思路挺直接:点开始录制,你正常操作,它自动把每一次点击、输入、跳转都截下来,还会把你点的那个按钮高亮放大,最后直接给你一份带标注的分步指南。 关键三点我说下: 1️⃣


  • 情报分类:硬件与数码
  • 分类依据:内容涉及硬件、数码产品或通信卡
  • 信息来源:AI / AI前沿 / Twitter @鸟哥 | 蓝鸟会🕊️
  • 发布时间:2026/9/22 21:52:42