deepinfer 开源了，梁圣伟大，这才是开源该有的样子，虽然缓存系统不在此次开源的范围内，但未来也会包含的 （小声）感觉是不是 ds 被外面低效的部署逼急了，天天这么大流量打进自家 api，AGI 进程又要被耽误了 1 个帖子 - 1 位参与者 阅读完整话题