今天有一个面试，被问到你们的大模型调用是离线的还是联网的，整场回答中我不知所云，完全 Get 不到他的点。 差不多面试结束后，我简单复述一下架构设计，agent 基本思想（什么 LLM + loop + function 之类的），然后他说“哦，就是 sdk 吧！”。临近结束，突然回想原来是你问的是云端托管 Agent, 什么大模型离线和联网调用，啥玩意。刚开始我问是不是指本地部署大模型和大模型厂商远端 api? 现在想一下，远端托管的 Agent 应该定制化都很差吧，开发场景主要有？在我认知都是使用比较熟悉的第三方框架实现的。

  • 情报分类：工作与职业机会
  • 分类依据：内容涉及招聘、求职或职业发展
  • 信息来源：服务器 / V2EX
  • 发布时间：2026/9/17 16:05:13