NVIDIA เปิดตัวแพลตฟอร์มอีเทอร์เน็ตแบบเร่งความเร็วสําหรับ Hyperscale Generative AI

แพลตฟอร์มเครือข่าย NVIDIA Spectrum-X ใหม่ รวม NVIDIA Spectrum-4, BlueField-3 DPU และซอฟต์แวร์เร่งความเร็ว สำหรับผู้ให้บริการคลาวด์ชั้นนําของโลกที่นําแพลตฟอร์มมาใช้เพื่อขยายบริการ Generative AI

NVIDIA ประกาศเปิดตัว NVIDIA Spectrum-X ซึ่งเป็นแพลตฟอร์มอีเธอร์เน็ตแบบเร่งความเร็วที่ออกแบบมาเพื่อปรับปรุงประสิทธิภาพและประสิทธิภาพของ AI Cloud บนอีเทอร์เน็ต

NVIDIA Spectrum-X™ สร้างขึ้นจากนวัตกรรมเครือข่ายที่ขับเคลื่อนโดยการเชื่อมต่ออย่างแน่นหนาของสวิตช์ NVIDIA Spectrum-4 Ethernet กับ NVIDIA BlueField-3® DPU ทําให้ได้ประสิทธิภาพ AI โดยรวมและประสิทธิภาพการใช้พลังงานที่ดีขึ้น 1.7 เท่า พร้อมด้วยประสิทธิภาพที่สม่ำเสมอและคาดการณ์ได้ในสภาพแวดล้อมที่มีผู้ใช้หลายคน Spectrum-X ได้รับการเสริมด้วยซอฟต์แวร์เร่งความเร็วของ NVIDIA และชุดพัฒนาซอฟต์แวร์ (SDKs) ซึ่งช่วยให้นักพัฒนาสามารถสร้างแอปพลิเคชัน AI ที่กำหนดโดยซอฟต์แวร์บนคลาวด์

การส่งมอบความสามารถแบบ end-to-end ช่วยลดเวลา runtime ของโมเดล Generative AI ที่ใช้ Transformer ขนาดใหญ่ ซึ่งช่วยให้วิศวกรเครือข่าย นักวิทยาศาสตร์ข้อมูล AI และผู้ให้บริการระบบคลาวด์สามารถปรับปรุงผลลัพธ์และตัดสินใจอย่างชาญฉลาดได้เร็วขึ้น

ไฮเปอร์สเกลเลอร์ชั้นนําของโลกกําลังนํา NVIDIA Spectrum-X มาใช้ รวมถึงผู้สร้างนวัตกรรมระบบคลาวด์ชั้นนําของอุตสาหกรรม

ในฐานะที่เป็นต้นแบบและฐานทดสอบสำหรับการออกแบบอ้างอิง NVIDIA Spectrum-X, NVIDIA กำลังสร้าง Israel-1, ซึ่งเป็น Generative AI Supercomputer แบบไฮเปอร์สเกลที่จะติดตั้งในศูนย์ข้อมูลของอิสราเอลบนเซิร์ฟเวอร์ Dell PowerEdge XE9680 ที่ใช้แพลตฟอร์ม NVIDIA HGX™ H100 ขนาด 8 GPU, BlueField-3 DPU และสวิตช์ Spectrum-4

“เทคโนโลยีที่เปลี่ยนแปลง เช่น Generative AI กำลังบังคับให้ทุกองค์กรต้องผลักดันขอบเขตประสิทธิภาพของศูนย์ข้อมูลเพื่อแสวงหาความได้เปรียบในการแข่งขัน” Gilad Shainer รองประธานอาวุโสฝ่ายเครือข่ายของ NVIDIA กล่าว “NVIDIA Spectrum-X เป็นคลาสใหม่ของเครือข่ายอีเธอร์เน็ตที่ขจัดอุปสรรคสำหรับปริมาณงาน AI ยุคหน้าที่มีศักยภาพในการเปลี่ยนแปลงอุตสาหกรรมทั้งหมด”

แพลตฟอร์มเครือข่าย NVIDIA Spectrum-X มีความหลากหลายสูงและสามารถใช้ในแอปพลิเคชัน AI ต่าง ๆ โดยใช้อีเทอร์เน็ตตามมาตรฐานอย่างสมบูรณ์และสามารถทํางานร่วมกับสแต็คที่ใช้อีเทอร์เน็ตได้

แพลตฟอร์มนี้เริ่มต้นด้วย Spectrum-4 ซึ่งเป็นสวิตช์อีเทอร์เน็ต 51Tb/sec ตัวแรกของโลกที่สร้างขึ้นสําหรับเครือข่าย AI โดยเฉพาะ ส่วนขยาย RoCE ขั้นสูงทํางานร่วมกันผ่านสวิตช์ Spectrum-4, BlueField-3 DPU และ LinkX optic เพื่อสร้างเครือข่าย 400GbE แบบ end-to-end ที่ปรับให้เหมาะสมสําหรับ AI Cloud

NVIDIA Spectrum-X ปรับปรุงการเช่าหลายรายด้วยการแยกประสิทธิภาพเพื่อให้แน่ใจว่าปริมาณงาน AI ของผู้เช่าทํางานได้ดีที่สุดและสม่ําเสมอ นอกจากนี้ยังมีการมองเห็นประสิทธิภาพของ AI ที่ดีขึ้นเนื่องจากสามารถระบุปัญหาคอขวดด้านประสิทธิภาพและมีการตรวจสอบผ้าอัตโนมัติอย่างสมบูรณ์

ซอฟต์แวร์เร่งความเร็วที่ขับเคลื่อน Spectrum-X ประกอบด้วย NVIDIA SDK ที่ทรงพลัง เช่น Cumulus Linux, SONiC และ NetQ ซึ่งร่วมกันทําให้แพลตฟอร์มเครือข่ายมีประสิทธิภาพสูงสุด นอกจากนี้ยังมีเฟรมเวิร์กซอฟต์แวร์ NVIDIA DOCA™ ซึ่งเป็นหัวใจสําคัญของ BlueField DPU

NVIDIA Spectrum-X เปิดใช้งานพอร์ต 200Gb/s ขนาด 256 พอร์ตที่เชื่อมต่อด้วยสวิตช์เดียว หรือ 16,000 พอร์ตในโทโพโลยีแบบใบสองชั้นเพื่อรองรับการเติบโตและการขยายตัวของระบบคลาวด์ AI ในขณะที่ยังคงประสิทธิภาพในระดับสูงและลดเวลาแฝงของเครือข่าย

ความพร้อมในการให้บริการ

บริษัทที่ให้บริการ NVIDIA Spectrum-X ได้แก่ Dell Technologies, Lenovo และ Supermicro

ความพร้อมในการใช้งาน

NVIDIA Spectrum-X  , สวิตช์ Spectrum-4, BlueField-3 DPU และ 400G LinkX optic พร้อมให้ใช้งานแล้ว

เรียนรู้เพิ่มเติมเกี่ยวกับ NVIDIA Spectrum-X ที่ COMPUTEX