NVIDIA Spectrum-X แพลตฟอร์มเครือข่ายอีเทอร์เน็ตใหม่สำหรับ AI พร้อมวางจำหน่ายเร็ว ๆ นี้

NVIDIA ได้ประกาศว่า เดลล์ เทคโนโลยีส์, ฮิวเลตต์ แพคการ์ด เอ็นเตอร์ไพรส์ และ เลอโนโว เป็นกลุ่มแรกที่จะบูรณาการ NVIDIA Spectrum-X™ เทคโนโลยีเครือข่ายอีเทอร์เน็ต สำหรับ AI ในกลุ่มเซิร์ฟเวอร์เพื่อช่วยให้ลูกค้าองค์กรเร่งการประมวลเวิร์คโหลดของ Generative AI

Spectrum-X สร้างขึ้นโดยมีจุดประสงค์เพื่อ Generative AI โดยนำเสนอเครือข่ายอีเธอร์เน็ตในอีกระดับให้กับองค์กร ซึ่งสามารถบรรลุประสิทธิภาพเครือข่ายที่สูงขึ้น 1.6 เท่าสำหรับการสื่อสาร AI เมื่อเทียบกับข้อเสนออีเธอร์เน็ตแบบดั้งเดิม

ระบบใหม่ที่มาจากผู้ผลิตระบบชั้นนำสามรายได้รวม Spectrum-X เข้ากับ NVIDIA Tensor Core GPU, NVIDIA AI Enterprise และ NVIDIA AI Workbench ซึ่งเป็นซอฟต์แวร์ที่ช่วยให้องค์กรต่าง ๆ มีพื้นฐานในการเปลี่ยนแปลงธุรกิจด้วย Generative AI 

“Generative AI และการประมวลผลแบบเร่งความเร็วกำลังขับเคลื่อนการเปลี่ยนแปลงในยุคต่าง ๆ เนื่องจากองค์กรต่าง ๆ อัปเกรดศูนย์ข้อมูลของตนเพื่อรองรับปริมาณงานเหล่านี้” Jensen Huang ผู้ก่อตั้งและ CEO ของ NVIDIA กล่าว “เครือข่ายที่เร่งความเร็วเป็นตัวเร่งสำหรับคลื่นลูกใหม่ของระบบจากพันธมิตรผู้ผลิตเซิร์ฟเวอร์ชั้นนำของ NVIDIA เพื่อเร่งการเปลี่ยนแปลงไปสู่ยุคของ Generative AI”

“การประมวลผลและเครือข่ายที่เร่งความเร็วเป็นกุญแจสำคัญในการสร้างระบบเพื่อตอบสนองความต้องการของโมเดลภาษาขนาดใหญ่และแอปพลิเคชัน AI เชิงสร้างสรรค์” ไมเคิล เดลล์ ประธานและซีอีโอของเดลล์ เทคโนโลยีส์ กล่าว “ด้วยความร่วมมือของเรา Dell Technologies และ NVIDIA กำลังมอบโครงสร้างพื้นฐานและซอฟต์แวร์ที่จำเป็นแก่ลูกค้าดึงข้อมูลอัจฉริยะออกจากข้อมูลได้อย่างรวดเร็วและปลอดภัย”

“ไม่ต้องสงสัยเลยว่า Generative AI จะขับเคลื่อนนวัตกรรมในหลายอุตสาหกรรม” Antonio Neri ประธานและซีอีโอของ HPE กล่าว “แอพพลิเคชั่นใหม่ที่ทรงพลังเหล่านี้จะต้องมีสถาปัตยกรรมที่แตกต่างกันโดยพื้นฐานเพื่อรองรับเวิร์กโหลดแบบไดนามิกที่หลากหลาย เพื่อให้ลูกค้าตระหนักถึงศักยภาพสูงสุดของ Generative AI HPE จึงร่วมมือกับ NVIDIA เพื่อสร้างระบบที่มีพลัง ประสิทธิภาพ และความสามารถในการขยายขนาดที่ต้องการเพื่อรองรับแอปพลิเคชันเหล่านี้”

“Generative AI สามารถขับเคลื่อนการเปลี่ยนแปลงที่ไม่เคยเกิดขึ้นมาก่อน แต่กลับสร้างความต้องการที่ไม่เคยมีมาก่อนในโครงสร้างพื้นฐานขององค์กร”Yuanqing Yang ประธานและซีอีโอของ Lenovo กล่าว “การทำงานอย่างใกล้ชิดกับ NVIDIA นั้น Lenovo กำลังสร้างระบบที่มีประสิทธิภาพและเร่งความเร็วด้วยเครือข่าย คอมพิวเตอร์ และซอฟต์แวร์ที่จำเป็นในการขับเคลื่อนแอพพลิเคชั่น AI ที่ทันสมัย”

การสร้างเครือข่ายโดยมีวัตถุประสงค์เพื่อเร่ง AI

เพื่อประสิทธิภาพเวิร์กโหลด AI สูงสุด Spectrum-X ผสมผสานประสิทธิภาพขั้นสุดยอดของ Spectrum-4 อีเธอร์เน็ตสวิตช์; ที่ NVIDIA BlueField®-3 SuperNIC ซึ่งเป็นตัวเร่งความเร็วเครือข่ายระดับใหม่สำหรับการประมวลผลเวิร์คโหลด AI ระดับไฮเปอร์สเกล เช่นเดียวกับ ซอฟต์แวร์เร่งความเร็ว Spectrum-X เสริมด้วย BlueField-3 DPU ซึ่งเป็นแพลตฟอร์มการประมวลผลโครงสร้างพื้นฐานที่ทันสมัยที่สุดในโลก มอบโครงสร้างพื้นฐานและซอฟต์แวร์ที่จำเป็นแก่ลูกค้า สามารถดึงข้อมูลอัจฉริยะออกจากข้อมูลได้อย่างรวดเร็วและปลอดภัย”

Spectrum-4 คือสวิตช์อีเธอร์เน็ตความเร็ว 51Tb/s รุ่นแรกของโลกสำหรับ AI ให้ปริมาณการรับส่งข้อมูลที่มีประสิทธิภาพสูงทั้งในระดับและภายใต้โหลด ในขณะเดียวกันก็ลดความแออัดของเครือข่ายสำหรับเวิร์กโหลดบนคลาวด์ของ AI ที่มีผู้เช่าหลายราย เทคโนโลยีการกำหนดเส้นทางอัจฉริยะที่ได้รับการปรับแต่งอย่างละเอียดช่วยให้สามารถใช้ประโยชน์สูงสุดจากโครงสร้างพื้นฐานเครือข่ายได้ตลอดเวลา

BlueField-3 SuperNIC ได้รับการออกแบบมาสำหรับการประมวลผลแบบขนานขนาดใหญ่ที่ใช้เครือข่ายจำนวนมาก โดยมีอัตราสูงถึง 400Gb/s โดยใช้ RDMA (remote direct memory access) over Converged Ethernet (RoCE) ระหว่างเซิร์ฟเวอร์ GPU และเพิ่มประสิทธิภาพสำหรับการฝึกอบรม AI และการรับส่งข้อมูลการอนุมานบนเครือข่ายระหว่างเซิร์ฟเวอร์ต่อเซิร์ฟเวอร์ภายในกลุ่ม นอกจากนี้ยังเปิดใช้งานสภาพแวดล้อมศูนย์ข้อมูลที่มีผู้เช่าหลายรายที่ปลอดภัย เพื่อให้มั่นใจถึงประสิทธิภาพที่กำหนดและแยกออกจากกันระหว่างงานของผู้เช่า ด้วยฟอร์มแฟคเตอร์ PCIe ที่ประหยัดพลังงาน และกะทัดรัด (half-height, half-length form factor) BlueField-3 SuperNIC จึงเหมาะอย่างยิ่งสำหรับเซิร์ฟเวอร์ระดับองค์กร

ซอฟต์แวร์เร่งความเร็วที่ขับเคลื่อน Spectrum-X มีชุดพัฒนาซอฟต์แวร์ NVIDIA เช่น Cumulus Linux, Pure SONiC และ NetQ — ซึ่งร่วมกันขับเคลื่อนประสิทธิภาพที่ก้าวล้ำของแพลตฟอร์ม — และ NVIDIA DOCA™ software framework ซึ่งเป็นหัวใจสำคัญของ BlueField

NVIDIA AI Enterprise มอบเฟรมเวิร์ก โมเดลที่ได้รับการฝึกล่วงหน้า และเครื่องมือการพัฒนาสำหรับ Generative AI ที่ปลอดภัย เสถียร และได้รับการสนับสนุน NVIDIA AI Workbench ช่วยให้นักพัฒนาสามารถสร้าง ทดสอบ และปรับแต่งโมเดล Generative AI ที่ได้รับการฝึกล่วงหน้าบนพีซีหรือเวิร์กสเตชันได้อย่างรวดเร็ว จากนั้นจึงปรับขนาดให้เป็นศูนย์ข้อมูลหรือคลาวด์ใด ๆ ก็ได้

ซูเปอร์คอมพิวเตอร์ NVIDIA Israel-1 ขับเคลื่อนโดย Spectrum-X

Spectrum-X ยังเปิดใช้งานซูเปอร์คอมพิวเตอร์ NVIDIA Israel-1 ซึ่งเป็นสถาปัตยกรรมอ้างอิงสำหรับระบบ AI รุ่นต่อไป Israel-1 เป็นความร่วมมือกับ Dell Technologies โดยใช้เซิร์ฟเวอร์ Dell PowerEdge XE9680 ที่ขับเคลื่อนโดยแพลตฟอร์ม NVIDIA HGX™ H100 แบบ 8 GPU และ BlueField-3 DPUs และ SuperNIC พร้อมสวิตช์ Spectrum-4

ความพร้อมใช้งาน 

ระบบใหม่จาก Dell, HPE และ Lenovo ที่มาพร้อมกับ NVIDIA AI stack ที่สมบูรณ์นั้นคาดว่าจะเกิดขึ้นในไตรมาสแรกของปี 2024

เกี่ยวกับ NVIDIA

นับตั้งแต่ก่อตั้งในปี 1993 NVIDIA (NASDAQ: NVDA) เป็นผู้บุกเบิกด้านการประมวลผลแบบเร่งความเร็ว การประดิษฐ์ GPU ของบริษัทในปี 1999 ได้จุดประกายการเติบโตของตลาดเกมพีซี คอมพิวเตอร์กราฟิกที่ได้รับการปรับปรุงใหม่ จุดประกายยุคของ AI สมัยใหม่ และกำลังขับเคลื่อนการเปลี่ยนแปลงทางดิจิทัลทางอุตสาหกรรมทั่วทั้งตลาด ปัจจุบัน NVIDIA เป็นบริษัทคอมพิวเตอร์แบบฟูลสแต็คที่มีข้อเสนอระดับศูนย์ข้อมูลที่กำลังเปลี่ยนโฉมอุตสาหกรรม ข้อมูลเพิ่มเติมที่ https://nvidianews.nvidia.com/