源于： https://linux.do/t/topic/2928903 上班摸鱼看见这篇帖子，然后用前两天佬友介绍cloud studio白嫖一件部署跑着玩了下 L40 46G跑起来显存占用16G左右，显卡占用33%，本想接入Claude中测测多agent能力玩玩并发，但问题仓库默认脚本中的llama-server 内置的 Jinja 聊天模板校验逻辑，模板在渲染时检测到 messages 数组里 system 角色的消息没有放在最前面,于是主动调用了模板里的 raise_exception(‘System message must be at the beginning…’),导致 HTTP 500。 也就是强要求: { "messages": [ {"role": "system", "content": "..."}, {"role": "user", "content": "..."} ] } 文笔不好！大致看看吧！ 1 个帖子 - 1 位参与者 阅读完整话题

  • 情报分类：硬件与数码
  • 分类依据：内容涉及硬件、数码产品或通信卡
  • 信息来源：服务器 / LINUX DO - 最新话题
  • 发布时间：2026/9/21 11:25:28