下载了几万本网络小说,想使用本地小模型对小说内容进行摘要,方便后续筛选阅读。本地小模型也就只有 qwen 跟 gemma 可用,我想知道需要多大的内存或显存才能吃满 256k 上下文。


  • 情报分类:硬件与数码
  • 分类依据:内容涉及硬件、数码产品或通信卡
  • 信息来源:服务器 / V2EX
  • 发布时间:2026/10/20 12:57:43