Groq พิจารณาใช้ DRAM แบบ 3D-Stacked สำหรับชิป AI เจนใหม่

Groq กำลังประเมินการบรรจุ DRAM แบบ 3D-Stacked สำหรับชิป AI เจนเนอเรชันถัดไป ซึ่งเป็นความเคลื่อนไหวด้านสถาปัตยกรรมครั้งแรกที่ปรากฏหลังจากการเข้าซื้อกิจการโดย Nvidia ตามรายงานของสื่อต่างประเทศ การเปลี่ยนแปลงนี้จะทำให้บริษัทหลุดพ้นจากการพึ่งพาการออกแบบที่ใช้ SRAM เป็นหลัก ไปสู่ความจุหน่วยความจำที่สูงขึ้น

แนวทาง “3DS” ที่เสนอใช้เทคโนโลยี through-silicon via (TSV) ในการ stacking หลาย die ในแนวตั้ง เจาะรูขนาดจิ๋วหลายพันรูผ่านชิป DRAM เพื่อให้ได้ความหนาแน่นของหน่วยความจำต่อพื้นที่สูง ต่างจาก HBM ที่เน้นอัตราการแลกเปลี่ยนข้อมูลสูงสุด 3DS ยังคงใช้โปรโตคอลอินเทอร์เฟซ DRAM มาตรฐานเดิม แต่เน้นการขยายความจุ

สถาปัตยกรรม LPU ของ Groq ได้รับความสนใจจากความเร็วในการประมวลผลสูง แต่ความจุ SRAM ที่มีจำกัดทำให้ประสิทธิภาพจำกัดสำหรับโมเดลที่มีพารามิเตอร์หลายแสนล้าน ความเร็วในการอ่านเขียนดั้งเดิมของ DRAM ช้ากว่า SRAM แต่ความจุที่มากกว่าถือเป็นข้อได้เปรียบสำหรับการปรับใช้โมเดลที่ซับซ้อน แผนการ stacking แบบ 3D มีเป้าหมายเพื่อรักษาความเร็วพร้อมแก้ข้อจำกัดด้านความจุสำหรับงานประมวลผล AI ขนาดใหญ่