แพลตฟอร์มเครือข่าย NVIDIA Spectrum-X ใหม่ รวม NVIDIA Spectrum-4, BlueField-3 DPU และซอฟต์แวร์เร่งความเร็ว สำหรับผู้ให้บริการคลาวด์ชั้นนําของโลกที่นําแพลตฟอร์มมาใช้เพื่อขยายบริการ Generative AI
NVIDIA ประกาศเปิดตัว NVIDIA Spectrum-X ซึ่งเป็นแพลตฟอร์มอีเธอร์เน็ตแบบเร่งความเร็วที่ออกแบบมาเพื่อปรับปรุงประสิทธิภาพและประสิทธิภาพของ AI Cloud บนอีเทอร์เน็ต
NVIDIA Spectrum-X™ สร้างขึ้นจากนวัตกรรมเครือข่ายที่ขับเคลื่อนโดยการเชื่อมต่ออย่างแน่นหนาของสวิตช์ NVIDIA Spectrum-4 Ethernet กับ NVIDIA BlueField-3® DPU ทําให้ได้ประสิทธิภาพ AI โดยรวมและประสิทธิภาพการใช้พลังงานที่ดีขึ้น 1.7 เท่า พร้อมด้วยประสิทธิภาพที่สม่ำเสมอและคาดการณ์ได้ในสภาพแวดล้อมที่มีผู้ใช้หลายคน Spectrum-X ได้รับการเสริมด้วยซอฟต์แวร์เร่งความเร็วของ NVIDIA และชุดพัฒนาซอฟต์แวร์ (SDKs) ซึ่งช่วยให้นักพัฒนาสามารถสร้างแอปพลิเคชัน AI ที่กำหนดโดยซอฟต์แวร์บนคลาวด์
การส่งมอบความสามารถแบบ end-to-end ช่วยลดเวลา runtime ของโมเดล Generative AI ที่ใช้ Transformer ขนาดใหญ่ ซึ่งช่วยให้วิศวกรเครือข่าย นักวิทยาศาสตร์ข้อมูล AI และผู้ให้บริการระบบคลาวด์สามารถปรับปรุงผลลัพธ์และตัดสินใจอย่างชาญฉลาดได้เร็วขึ้น
ไฮเปอร์สเกลเลอร์ชั้นนําของโลกกําลังนํา NVIDIA Spectrum-X มาใช้ รวมถึงผู้สร้างนวัตกรรมระบบคลาวด์ชั้นนําของอุตสาหกรรม
ในฐานะที่เป็นต้นแบบและฐานทดสอบสำหรับการออกแบบอ้างอิง NVIDIA Spectrum-X, NVIDIA กำลังสร้าง Israel-1, ซึ่งเป็น Generative AI Supercomputer แบบไฮเปอร์สเกลที่จะติดตั้งในศูนย์ข้อมูลของอิสราเอลบนเซิร์ฟเวอร์ Dell PowerEdge XE9680 ที่ใช้แพลตฟอร์ม NVIDIA HGX™ H100 ขนาด 8 GPU, BlueField-3 DPU และสวิตช์ Spectrum-4
“เทคโนโลยีที่เปลี่ยนแปลง เช่น Generative AI กำลังบังคับให้ทุกองค์กรต้องผลักดันขอบเขตประสิทธิภาพของศูนย์ข้อมูลเพื่อแสวงหาความได้เปรียบในการแข่งขัน” Gilad Shainer รองประธานอาวุโสฝ่ายเครือข่ายของ NVIDIA กล่าว “NVIDIA Spectrum-X เป็นคลาสใหม่ของเครือข่ายอีเธอร์เน็ตที่ขจัดอุปสรรคสำหรับปริมาณงาน AI ยุคหน้าที่มีศักยภาพในการเปลี่ยนแปลงอุตสาหกรรมทั้งหมด”
แพลตฟอร์มเครือข่าย NVIDIA Spectrum-X มีความหลากหลายสูงและสามารถใช้ในแอปพลิเคชัน AI ต่าง ๆ โดยใช้อีเทอร์เน็ตตามมาตรฐานอย่างสมบูรณ์และสามารถทํางานร่วมกับสแต็คที่ใช้อีเทอร์เน็ตได้
แพลตฟอร์มนี้เริ่มต้นด้วย Spectrum-4 ซึ่งเป็นสวิตช์อีเทอร์เน็ต 51Tb/sec ตัวแรกของโลกที่สร้างขึ้นสําหรับเครือข่าย AI โดยเฉพาะ ส่วนขยาย RoCE ขั้นสูงทํางานร่วมกันผ่านสวิตช์ Spectrum-4, BlueField-3 DPU และ LinkX optic เพื่อสร้างเครือข่าย 400GbE แบบ end-to-end ที่ปรับให้เหมาะสมสําหรับ AI Cloud
NVIDIA Spectrum-X ปรับปรุงการเช่าหลายรายด้วยการแยกประสิทธิภาพเพื่อให้แน่ใจว่าปริมาณงาน AI ของผู้เช่าทํางานได้ดีที่สุดและสม่ําเสมอ นอกจากนี้ยังมีการมองเห็นประสิทธิภาพของ AI ที่ดีขึ้นเนื่องจากสามารถระบุปัญหาคอขวดด้านประสิทธิภาพและมีการตรวจสอบผ้าอัตโนมัติอย่างสมบูรณ์
ซอฟต์แวร์เร่งความเร็วที่ขับเคลื่อน Spectrum-X ประกอบด้วย NVIDIA SDK ที่ทรงพลัง เช่น Cumulus Linux, SONiC และ NetQ ซึ่งร่วมกันทําให้แพลตฟอร์มเครือข่ายมีประสิทธิภาพสูงสุด นอกจากนี้ยังมีเฟรมเวิร์กซอฟต์แวร์ NVIDIA DOCA™ ซึ่งเป็นหัวใจสําคัญของ BlueField DPU
NVIDIA Spectrum-X เปิดใช้งานพอร์ต 200Gb/s ขนาด 256 พอร์ตที่เชื่อมต่อด้วยสวิตช์เดียว หรือ 16,000 พอร์ตในโทโพโลยีแบบใบสองชั้นเพื่อรองรับการเติบโตและการขยายตัวของระบบคลาวด์ AI ในขณะที่ยังคงประสิทธิภาพในระดับสูงและลดเวลาแฝงของเครือข่าย
ความพร้อมในการให้บริการ
บริษัทที่ให้บริการ NVIDIA Spectrum-X ได้แก่ Dell Technologies, Lenovo และ Supermicro
ความพร้อมในการใช้งาน
NVIDIA Spectrum-X , สวิตช์ Spectrum-4, BlueField-3 DPU และ 400G LinkX optic พร้อมให้ใช้งานแล้ว
เรียนรู้เพิ่มเติมเกี่ยวกับ NVIDIA Spectrum-X ที่ COMPUTEX