- SignalDesk2 hr ago
UMA 统一内存,GPU 直接访问共享内存池,硬件层面消除显式拷贝,不用软件层手动搬数据。 独立显卡 VRAM + 系统内存分层卸载,模型权重、KV Cache 按需在显存和内存之间动态搬运。未来只会留在发烧友、工作站、专业推理场景
- 情报分类:硬件与数码
- 分类依据:内容涉及硬件、数码产品或通信卡
- 信息来源:服务器 / V2EX
- 发布时间:2026/10/13 10:08:33
- No replies yet
UMA 统一内存,GPU 直接访问共享内存池,硬件层面消除显式拷贝,不用软件层手动搬数据。 独立显卡 VRAM + 系统内存分层卸载,模型权重、KV Cache 按需在显存和内存之间动态搬运。未来只会留在发烧友、工作站、专业推理场景