跟着AI模型的英伟予延续扩大年夜大年夜大年夜大年夜 ，HBM大年夜大年夜约难以知足将来显存容量的达筹需求 ，也促使行业将GPU驱动的算准存储架构视为埋伏的下一个技能前沿 。旧年就有消息称 ，直接英伟达分袂与SK海力士和铠侠合作 ，访谒鞭挞AI SSD的存储斥地，独霸量身定制的加快SSD部分庖代HBM作为GPU显存的扩大年夜大年夜大年夜大年夜器 。此外本年SK海力士还与闪迪合作 ，英伟予带来了面向AI推理时代的达筹下一代存储器措置筹划HBF（High Bandwidth Flash） ，也是算准为体味决不异的问题 。
据TrendForce报导 ，直接英伟达正在鞭挞GPU直接访谒存储的访谒架构斥地 ，筹算从Vera Rubin平台引进 ，存储启动GIDS（GPU-Initiated Direct Storage Access）下场 。加快外界认为 ，英伟予这一改削大年夜大年夜约加快HBF的展开 。
GIDS与现有的GDS（GPU Direct Storage）下场有所不合，二者之间是有不合的 ：在GDS里 ，CPU在数据传输到GPU之前先向存储设备发出数据请求 ，而到了GIDS ，GPU直接访谒存储设备 ，中心会跳过CPU和DRAM来完成。
GIDS和GDS都旨在阻拦传兼顾算架构中的数据传输瓶颈，传说传闻微软和AMD也在试探近似的编制 。次要问题仍是在于传统的数据传输编制屈就较低 ，CPU在线程措置上筹划受限 ，而GPU则能生成数万个并行线程 。如今GPU-HBM数据传输已占琐细总功耗大年夜大年夜体一半 ，这进一步支撑HBF架构 ，将超高速的NAND闪存更接近GPU，以应对将来的AI瓶颈 。
GIDS的展示大年夜大年夜约使NAND闪存在AI存储琐细中扮演愈加次要的角色 ，同时加重HBM在容量方面的压力。这类改削需求功用更高的NAND闪存 ，以便跟上GPU的措置速度 。NAND闪存的优势在于位密度 ，约为DRAM的30倍 ，在邻近的占用空间下完成了更除夜的存储容量 。
可是NAND闪存的经久度无穷 ，而DRAM具有几近无量的写进身手 。是以HBF被认为更契合存储AI模型参数 ，因为这部分数据在推理过程中根本贯穿连接晃荡，仅作为只读工作负载独霸 。
关注微信
