前情提要： 开发了一款轻量养车记账软件，欢迎油车电车高端人士体验 （ 7 天前发的上篇） 这 7 天更新了什么 一句话：把「 AI 帮你记」背后的模型，从 手机上跑一个 2.33GB 的大模型 ，换成了 自己训练的 4.5MB 小模型 lingxi （灵犀） 0.1.0 ，纯 Dart 推理、无任何原生依赖。 默认识别档位已切到 lingxi-0.1.0 （下载体积从 GB 级墙降到 4.5MB ，MB 级不再强制 Wi-Fi ） 支持 一句话记多笔 ：「昨天加油 300 。今天洗车 30 。」→ 自动拆成两条草稿，日期各自正确 AI 草稿页支持增删改、批量落库、低置信度字段标记「请核对」 加了识别反馈（准/不准），真实语料从 55 条扩到 390 条，并修了一批评测集卫生问题 契约升到 v2 （全角句号从"小数点"里放出来，成为句子边界），模型零重训直接受益 为什么不用大模型 上篇评论区有人担心「端侧 AI 会让人变傻」，但其实更尴尬的是技术账：让一个通用 LLM 做 槽位抽取 ，等于让它承担本该由规则承担的活——中文数字换算、元→分乘 100 、相对日期推算、句中多数字消歧、备注改写。 于是引入两类最难防的错： 金额量级错误 （×100 出错，7 元记成 700 元，用户会漏过去）和 备注幻觉 （编造原文不存在的文本，污染账本）。而且抽取任务真正承载的决策信息只有约 3 bit ，LLM 是按语言建模约 45 bit 造的，纯粹浪费容量。 所以我换了个思路： 候选枚举 → 模型选择 → 规则解引用 。 "呃，昨天在壳牌那儿，95 的加了 42 升，367 块 8" ① 枚举 把所有片段编号，并顺手把计算全做完： N1=42 升(42.0) N2=367 块 8(=36780 分) D0=昨天(=设备当天-1) ② 标记 ⟨N1⟩42 升 ⟨N2⟩367 块 8 ③ 模型

  • 情报分类：项目价值、技术价值
  • 命中依据：训练 4MB 小模型，技术实践与项目分享
  • 来源：服务器 / V2EX
  • 原作者：Sanko
  • 发布时间：2026/9/9 12:06:55