各位佬,想请教一下多机、多模型的部署和调度方案。 目前手头有 5 台服务器,每台 8 张 H100,共 40 张卡 ,准备部署 Wan2.2、Qwen-Image 等几十种开源模型,主要覆盖生图、生视频和语音等场景。 想了解一下,这种场景有没有比较成熟的开源框架或平台,能统一管理模型和调度 GPU 资源? 有佬做过类似的部署吗?求推荐一些开源项目或实践方案 2 个帖子 - 2 位参与者 阅读完整话题