$第四范式(06682)$ 第四范式推出「Virtual VRAM」可插入式虚拟显存扩展卡 GPU算力资源利用率大幅提升
在当前GPU架构下,显存容量已成为制约AI大模型运行效率的关键瓶颈。当面对ChatGPT响应延迟或Stable Diffusion因显存不足而中断时,扩展显存已成为众多企业或个人的共性需求。今天(9月28日),第四范式正式发布「Virtual VRAM」可插入式虚拟显存扩展卡。该产品创新地将物理内存资源转化为可动态调度的显存缓冲池,实现计算资源的弹性扩展。值得关注的是,「Virtual VRAM」可以在不修改现有代码和重新编译的情况下无缝接入当前GPU系统,大幅降低了部署复杂度,不用换显卡就可以解决显卡不足的痛点。第四范式创始人戴文渊,第四范式联合创始人、首席科学家陈雨强出席发布活动。
图片
图片
01 显存不够?内存来凑!
传统GPU的显存如同一方固定的“厨房备菜台”——空