Groq考虑采用3D堆叠DRAM，用于下一代AI芯片

据外媒报道，Groq正评估为其下一代AI芯片采用3D堆叠DRAM封装，这是该公司被英伟达实际收购后首次曝光的架构调整。此举将使其摆脱对SRAM的依赖，转向更高内存容量。

拟议的“3DS”方案利用硅通孔（TSV）技术垂直堆叠多个裸片，在DRAM芯片上钻出数千个微孔，实现单位面积的高内存密度。与追求极致数据交换速率的HBM不同，3DS保留现有DRAM标准接口协议，专注于容量扩展。

Groq的LPU架构因高推理速度而备受关注，但其SRAM容量较小，限制了在数千亿参数模型上的性能。DRAM的原始读写速度慢于SRAM，但容量更大，这对复杂模型部署是一大优势。3D堆叠方案旨在保持速度的同时，解决超大规模AI推理工作负载的容量瓶颈。