- SignalDesk2 hr ago
code 在一臺 vps 上 data 在 s3 上 gpu 在 cloud 上 將他們完全解耦,關鍵點在 gpu 的資源租賃和調用方式,是否能支持這種構架? 模擬極端環境,三者全部都在不同機房,不同國家,不同綫路。全部只能走公網,最多組内網。 特別對於視頻生成的應用,租一臺 gpu 的服務器容易,但我對 gpu 的理解是用完即焚,不用長時間保活。主要是開銷能降到最低,特別是做一些 dev 階段時,沒有預算全額租賃。 現在最優解是 gpu 提供商提供數據盤,數據盤可以保活。gpu 不用可以停機。用來跑一些偶發性的 task 是 ok 的,比如漫畫上色,有用戶提交,才開 gpu ,沒提交就 unmount 掉 gpu ,回收資源。因爲是測試階段,只考慮并發需求,而不考慮持久性。比如開多個 gpu ,并行處理 user 的請求。要求是快。但閑置時損耗肯定很大,寫 cron 能解決。 所以我想找個解耦的,主要是 gpu 和數據盤一個供應商,掣肘很大,不利於施展構架的自由,比如多機集群等。一般大廠沒所謂,比如 scaleway 這類。有投資了,肯定會考慮走大廠,畢竟現在燒自己錢,心疼。
- 情报分类:服务器与云资源
- 分类依据:内容涉及服务器、云资源或网络线路
- 信息来源:服务器 / V2EX
- 发布时间:2026/10/21 01:17:09
- No replies yet