โปรเซสเซอร์ตัวแรกของโลกที่ใช้หน่วยความจำ HBM3e นำเสนอหน่วยความจำที่มีแบนด์วิดท์ที่ก้าวล้ำ ความสามารถในการเชื่อมต่อ GPU หลายตัวเพื่อประสิทธิภาพที่ยอดเยี่ยม การออกแบบเซิร์ฟเวอร์ที่ปรับขนาดได้ง่าย

NVIDIA ประกาศเปิดตัวแพลตฟอร์ม NVIDIA GH200 Grace Hopper™ เจนเนอเรชั่นใหม่ โดยใช้ Grace Hopper Superchip ใหม่พร้อมโปรเซสเซอร์ที่ใช้ HBM3e ตัวแรกของโลก สร้างขึ้นสำหรับยุคของการประมวลผลแบบเร่งความเร็วและ Generative AI

สร้างขึ้นเพื่อจัดการกับเวิร์กโหลด Generative AI ที่ซับซ้อนที่สุดในโลก ซึ่งครอบคลุมโมเดลภาษาขนาดใหญ่ ระบบผู้แนะนำ และฐานข้อมูลเวกเตอร์ แพลตฟอร์มใหม่นี้จะพร้อมใช้งานในการกำหนดค่าที่หลากหลาย

การกำหนดค่าแบบคู่ — ซึ่งให้ความจุหน่วยความจำเพิ่มขึ้นสูงสุด 3.5 เท่า และแบนด์วิดท์มากกว่ารุ่นปัจจุบันถึง 3 เท่า — ประกอบด้วยเซิร์ฟเวอร์เดี่ยวที่มี 144 Arm Neoverse cores, ประสิทธิภาพ AI 8 petaflops และมีหน่วยความจำ 282GB ที่ใช้เทคโนโลยีหน่วยความจำ HBM3e ล่าสุด

“เพื่อตอบสนองความต้องการที่เพิ่มขึ้นสำหรับ Generative AI ศูนย์ข้อมูลต้องการแพลตฟอร์มการประมวลผลแบบเร่งความเร็วที่มีความต้องการเฉพาะ” Jensen Huang ผู้ก่อตั้งและ CEO ของ NVIDIA กล่าว “แพลตฟอร์ม GH200 Grace Hopper Superchip นำเสนอสิ่งนี้ด้วยเทคโนโลยีหน่วยความจำและแบนด์วิดธ์ที่ยอดเยี่ยมเพื่อปรับปรุงปริมาณงาน ความสามารถในการเชื่อมต่อ GPU เพื่อประสิทธิภาพโดยรวมโดยไม่มีการประนีประนอม และการออกแบบเซิร์ฟเวอร์ที่สามารถติดตั้งได้อย่างง่ายดายในศูนย์ข้อมูลทั้งหมด”

แพลตฟอร์มใหม่นี้ใช้ Grace Hopper Superchip ซึ่งสามารถเชื่อมต่อกับ Superchips เพิ่มเติมได้โดย NVIDIA NVLink™ ทำให้พวกเขาทำงานร่วมกันเพื่อปรับใช้โมเดลขนาดยักษ์ในปัจจุบันสำหรับ Generative AI

ในการกำหนดค่าแบบคู่ เทคโนโลยีความเร็วสูงที่เชื่อมโยงกันนี้ช่วยให้ GPU เข้าถึงหน่วยความจำ CPU ได้อย่างเต็มที่ ทำให้มีหน่วยความจำรวม 1.2TB ที่รวดเร็ว

หน่วยความจำ HBM3e ซึ่งเร็วกว่า HBM3 ปัจจุบัน 50% มอบแบนด์วิดท์รวมกันทั้งหมด 10TB/s ทำให้แพลตฟอร์มใหม่สามารถเรียกใช้โมเดลที่ใหญ่กว่าเวอร์ชันก่อนหน้า 3.5 เท่า ในขณะที่ปรับปรุงประสิทธิภาพด้วยแบนด์วิดท์หน่วยความจำที่เร็วขึ้น 3 เท่า

ความต้องการที่เพิ่มขึ้นสำหรับ Grace Hopper

ผู้ผลิตชั้นนำได้นำเสนอระบบที่ใช้ Grace Hopper Superchip ที่ประกาศไปก่อนหน้านี้แล้ว เพื่อผลักดันการนำเทคโนโลยีไปใช้ในวงกว้าง แพลตฟอร์ม Grace Hopper Superchip เจนเนอเรชั่นถัดไปพร้อม HBM3e เข้ากันได้อย่างสมบูรณ์กับ NVIDIA MGX™ ข้อมูลจำเพาะของเซิร์ฟเวอร์เปิดตัวที่งาน COMPUTEX เมื่อต้นปีนี้ ด้วย MGX ​​ผู้ผลิตระบบทุกรายสามารถเพิ่ม Grace Hopper ลงในเซิร์ฟเวอร์กว่า 100 แบบได้อย่างรวดเร็วและคุ้มค่า

ความพร้อมใช้งาน

ผู้ผลิตระบบชั้นนำคาดว่าจะส่งมอบระบบตามแพลตฟอร์มในไตรมาสที่ 2 ของปี 2024

ดูคีย์โน้ตที่สำคัญของงาน SIGGRAPH ตามความต้องการเพื่อเรียนรู้เพิ่มเติมเกี่ยวกับ Grace Hopper