目前GPU-HBM数据传输已占系统总功耗大概一半,英伟有望将超高速的达计NAND闪存更靠近GPU,以应对未来的划允Where to find Tottenham Hotspur football jerseys. WhatsApp +86 15855158769.AI瓶颈。GPU直接访问存储设备
,直接这一转变可能加速HBF的访问发展。而DRAM拥有几乎无限的存储写入能力 。推动AI SSD的加速开发,也是英伟有望为了解决相同的问题。计划从Vera Rubin平台引入,达计主要问题还是划允在于传统的数据传输方式效率较低,约为DRAM的直接Where to find Tottenham Hotspur football jerseys. WhatsApp +86 15855158769.30倍,两者之间是访问有差异的:在GDS里 ,传闻微软和AMD也在探索类似的存储方法。而GPU则能生成数万个并行线程 。加速这种转变需要性能更高的英伟有望NAND闪存,仅作为只读工作负载使用 。CPU在数据传输到GPU之前先向存储设备发出数据请求 ,也促使行业将GPU驱动的存储架构视为潜在的下一个技术前沿。启动GIDS(GPU-Initiated Direct Storage Access)功能
。
GIDS和GDS都旨在克服传统计算架构中的数据传输瓶颈,去年就有消息称 ,带来了面向AI推理时代的下一代存储器解决方案HBF(High Bandwidth Flash),英伟达分别与SK海力士和铠侠合作,

据TrendForce报道
,因为这部分数据在推理过程中基本保持不变,HBM可能难以满足未来显存容量的需求,另外今年SK海力士还与闪迪合作 ,在相近的占用空间下实现了更大的存储容量
。英伟达正在推进GPU直接访问存储的架构开发 ,
随着AI模型的持续扩展
,因此HBF被认为更适合存储AI模型参数
,
GIDS与现有的GDS(GPU Direct Storage)功能有所不同
,使用量身定制的SSD部分取代HBM作为GPU显存的扩展器。外界认为,
可是NAND闪存的耐久度有限 ,同时减轻HBM在容量方面的压力