ชิปใหม่ของ Broadcom ท้าชน NVIDIA เพิ่มทางเลือกใหม่ในตลาดฮาร์ดแวร์ AI

Broadcom ประกาศความสำเร็จในการจัดส่งชิป Tomahawk Ultra Ethernet switch อย่างเป็นทางการเมื่อเร็ว ๆ นี้ ชิปประมวลผลเครือข่ายนี้ออกแบบมาเพื่อเร่งความเร็วในการประมวลผลข้อมูล AI โดยเฉพาะ และถือเป็นการท้าทายอำนาจของ NVIDIA ในโครงสร้างพื้นฐาน AI อย่างเปิดเผย ชิปใหม่นี้สามารถเชื่อมต่อโปรเซสเซอร์ได้มากกว่า NVLink Switch ของ NVIDIA ถึงสี่เท่า พร้อมทั้งใช้โปรโตคอล Ethernet ที่ได้รับการปรับปรุงให้เหมาะสม ทำให้การใช้ชิปของ Broadcom ในการเชื่อมต่อชิป AI มีต้นทุนที่ถูกกว่าเพราะใช้สิ่งที่มีอยู่แล้วอย่าง Ethernet แทนที่จะใช้เทคโนโลยีที่เป็นกรรมสิทธิ์ของ NVIDIA อย่าง NVLink

Tomahawk Ultra เป็นความพยายามล่าสุดของ Broadcom ในการแข่งขันกับ NVIDIA ในตลาดฮาร์ดแวร์ AI ที่กำลังเติบโตอย่างรวดเร็ว โดยที่ Broadcom ได้ร่วมมือกับ Google ในการพัฒนาชิป AI ซึ่งเป็นทางเลือกแทนโปรเซสเซอร์กราฟิกของ NVIDIA

ความสามารถทางเทคนิคขับเคลื่อนการแข่งขัน

Broadcom ได้ประกาศการจัดส่งชิปสวิตช์ Ethernet ที่ก้าวล้ำ — Tomahawk Ultra ซึ่งได้รับการออกแบบมาเพื่อปฏิวัติสวิตช์ Ethernet สำหรับการประมวลผลประสิทธิภาพสูง (HPC) และภาระงาน AI โดยเฉพาะ โดยมอบความหน่วงต่ำเป็นพิเศษ (ultra-low latency) อัตราการรับส่งข้อมูลมหาศาล (massive throughput) และเครือข่ายแบบ lossless ที่เป็นผู้นำในอุตสาหกรรม

สวิตช์ใหม่นี้มีความหน่วงเพียง 250 นาโนวินาที ที่อัตราการรับส่งข้อมูลเต็ม 51.2 เทราบิตต่อวินาที และสามารถรองรับแพ็กเก็ตได้สูงสุด 7.7 หมื่นล้านแพ็กเก็ตต่อวินาที แม้ในขนาดแพ็กเก็ตขั้นต่ำ 64 ไบต์ Ram Velaga รองประธานอาวุโสและผู้จัดการทั่วไปของ Core Switching Group ของ Broadcom กล่าวว่า “Tomahawk Ultra เป็นเครื่องพิสูจน์ถึงนวัตกรรม ซึ่งเป็นความพยายามหลายปีโดยวิศวกรหลายร้อยคน ที่ได้จินตนาการใหม่ทุกแง่มุมของสวิตช์ Ethernet” และอธิบายว่าชิปนี้ทำหน้าที่เสมือน “ผู้ควบคุมการจราจรสำหรับข้อมูลที่ไหลเวียนระหว่างชิปหลายสิบหรือหลายร้อยตัว” ในศูนย์ข้อมูล

แตกต่างจาก NVLink Switch ของ NVIDIA ที่พึ่งพาโปรโตคอลที่เป็นกรรมสิทธิ์ Tomahawk Ultra ใช้มาตรฐาน Ethernet ที่ได้รับการปรับปรุง ซึ่งสามารถเชื่อมโยงโปรเซสเซอร์จำนวนมากเข้าด้วยกันในคลัสเตอร์ AI ได้ ชิปนี้ยังรวมเทคโนโลยี lossless fabric ที่ช่วยขจัดปัญหาการสูญหายของแพ็กเก็ตระหว่างการถ่ายโอนข้อมูลปริมาณมาก โดยใช้ Link Layer Retry (LLR) และ Credit-Based Flow Control (CBFC) เพื่อให้มั่นใจถึงความน่าเชื่อถือ

จากข้อมูลของ Storage Review สวิตช์นี้ลดโอเวอร์เฮดของเฮดเดอร์ Ethernet จาก 46 ไบต์ เหลือเพียง 10 ไบต์ โดยยังคงรักษาการปฏิบัติตามมาตรฐานอย่างเต็มที่ ซึ่งช่วยเพิ่มประสิทธิภาพเครือข่ายสำหรับแอปพลิเคชัน AI และยังสามารถปรับแต่งเฮดเดอร์ให้เหมาะสมกับแอปพลิเคชันเฉพาะได้อีกด้วย

Tomahawk Ultra ยังเร่งประสิทธิภาพผ่าน In-Network Collectives ซึ่งช่วยแก้ปัญหาคอขวดที่เกิดขึ้นบ่อยครั้งในภาระงาน AI และ Machine Learning แทนที่จะให้ XPU ทำงานร่วมกัน เช่น AllReduce, Broadcast หรือ AllGather, Tomahawk Ultra จะดำเนินการเหล่านี้โดยตรงภายในชิปสวิตช์ ซึ่งสามารถลดเวลาในการทำงานและปรับปรุงการใช้ทรัพยากรการประมวลผลที่มีราคาแพงได้อย่างมีนัยสำคัญ

การตลาดและกลยุทธ์

การเปิดตัวครั้งนี้เกิดขึ้นในขณะที่ Broadcom ยังคงใช้ประโยชน์จากความต้องการที่เพิ่มขึ้นสำหรับโซลูชันเครือข่ายที่ปรับให้เหมาะสมกับ AI จากข้อมูลของ Tokenist หุ้นของ Broadcom เพิ่มขึ้น 2.22% ในการซื้อขายก่อนตลาดเปิด หลังจากประกาศดังกล่าว โดยมีราคาถึง 281.72 ดอลลาร์ และต่อยอดจากผลงานของบริษัทที่เพิ่มขึ้น 22% ตั้งแต่ต้นปี

ชิปนี้ถูกสร้างขึ้นเพื่อตอบสนองความต้องการสูงสุดของสภาพแวดล้อม HPC และคลัสเตอร์ AI ที่เชื่อมต่อกันอย่างแน่นหนา Tomahawk Ultra ได้รับการปรับให้เหมาะสมสำหรับรูปแบบการสื่อสารที่มีความหน่วงต่ำและเชื่อมต่อกันอย่างแน่นหนา ทั้งในระบบคอมพิวเตอร์ประสิทธิภาพสูงและคลัสเตอร์ AI ด้วยการสวิตช์ที่มีความหน่วงต่ำเป็นพิเศษและเฮดเดอร์ Ethernet ที่ปรับแต่งได้ ทำให้สามารถทำงานได้อย่างมีประสิทธิภาพและคาดการณ์ได้สำหรับการจำลองขนาดใหญ่ การคำนวณทางวิทยาศาสตร์ และการฝึกอบรมและอนุมานโมเดล AI ที่ซิงโครไนซ์

เมื่อนำไปใช้งานร่วมกับ Scale-Up Ethernet (SUE specification) Tomahawk Ultra จะช่วยให้การสื่อสารระหว่าง XPU-to-XPU มีความหน่วงต่ำกว่า 400 นาโนวินาที ซึ่งรวมถึงเวลาการส่งผ่านสวิตช์ด้วย ซึ่งเป็นการสร้างมาตรฐานใหม่สำหรับการประมวลผล AI ที่ซิงโครไนซ์อย่างแน่นหนาในระดับขนาดใหญ่

นอกจากนี้ Broadcom ยังได้เปิดตัว SUE-Lite ซึ่งเป็น SUE ที่ปรับให้เหมาะสมสำหรับแอปพลิเคชันเร่งความเร็วที่คำนึงถึงพลังงานและพื้นที่ SUE-Lite ยังคงคุณสมบัติหลักของ SUE เต็มรูปแบบ ทั้งความหน่วงต่ำและ lossless ในขณะที่ลดขนาดซิลิคอนและการใช้พลังงานของอินเทอร์เฟซ Ethernet บน AI XPUs และ CPUs

Tomahawk Ultra ยังได้รับการออกแบบด้วยนวัตกรรมในการกำหนดเส้นทางที่รับรู้ถึงโทโพโลยี เพื่อรองรับโทโพโลยี HPC ขั้นสูง รวมถึง Dragonfly, Mesh และ Torus และยังเข้ากันได้กับมาตรฐาน UEC และเปิดรับระบบนิเวศของเครือข่าย Ethernet ที่เปิดกว้างและสมบูรณ์

Tomahawk Ultra และ Tomahawk 6 (102.4 Tbps) เป็นรากฐานของสถาปัตยกรรม Ethernet แบบรวม: ทำให้สามารถใช้ Ethernet แบบ scale-up สำหรับ AI และ Ethernet แบบ scale-out สำหรับ HPC และภาระงานแบบกระจายได้

Tomahawk Ultra สามารถเข้ากันได้ 100% กับ Tomahawk 5 ในด้าน pin-compatibility ทำให้เข้าสู่ตลาดได้อย่างรวดเร็ว และกำลังจัดส่งเพื่อนำไปใช้งานในคลัสเตอร์การฝึกอบรม AI ระดับ rack-scale และสภาพแวดล้อม Supercomputing

บทวิเคราะห์:

การเปิดตัว Tomahawk Ultra Ethernet ของ Broadcom ถือเป็นก้าวสำคัญที่สะท้อนให้เห็นถึงการแข่งขันที่ดุเดือดในตลาดฮาร์ดแวร์ของ AI ที่มีมูลค่ามหาศาล ความเคลื่อนไหวนี้ไม่เพียงแต่ท้าทายความเป็นผู้นำของ NVIDIA ในด้าน AI Networking แต่ยังชี้ให้เห็นถึงแนวโน้มของอุตสาหกรรมที่กำลังมุ่งสู่การใช้มาตรฐานเปิดอย่าง Ethernet มากขึ้น แทนที่จะเป็นเทคโนโลยีที่เป็นกรรมสิทธิ์

ด้านเทคโนโลยี: การที่ Broadcom เลือกใช้ Ethernet และปรับปรุงให้มีประสิทธิภาพสูงขึ้นสำหรับ AI เป็นการส่งสัญญาณว่าความสามารถในการปรับขยาย (scalability) และความเข้ากันได้ (interoperability) กำลังเป็นปัจจัยสำคัญในการออกแบบโครงสร้างพื้นฐาน AI ขนาดใหญ่ ความสามารถในการเชื่อมต่อโปรเซสเซอร์ได้มากกว่า NVLink ถึงสี่เท่า โดยใช้ Ethernet ที่มีโอเวอร์เฮดต่ำและมีเทคโนโลยี lossless fabric จะช่วยลดคอขวดของข้อมูลและเพิ่มประสิทธิภาพโดยรวมของคลัสเตอร์ AI ได้อย่างมีนัยสำคัญ ซึ่งเป็นสิ่งสำคัญอย่างยิ่งสำหรับโมเดล AI ขนาดใหญ่ที่ต้องประมวลผลข้อมูลจำนวนมหาศาล นอกจากนี้ การรวมฟังก์ชัน In-Network Collectives ยังช่วยลดภาระงานของ XPUs และเพิ่มประสิทธิภาพในการประมวลผล AI ได้อย่างตรงจุด

ด้านการตลาดและธุรกิจ: หุ้นของ Broadcom ปรับตัวสูงขึ้นหลังการประกาศ สะท้อนให้เห็นถึงความเชื่อมั่นของนักลงทุนในศักยภาพของผลิตภัณฑ์นี้ ความร่วมมือกับ Google ในการพัฒนาชิป AI ยังเป็นการตอกย้ำถึงกลยุทธ์ของ Broadcom ในการสร้างพันธมิตรเชิงรุกเพื่อลดการพึ่งพิง Nvidia นอกจากนี้ การเน้นไปที่ตลาด “scale-up” computing และการนำเสนอ SUE-Lite แสดงให้เห็นถึงความเข้าใจในความต้องการของลูกค้าองค์กรและศูนย์ข้อมูลขนาดใหญ่ที่กำลังลงทุนอย่างหนักในโครงสร้างพื้นฐาน AI และยังช่วยให้เข้าถึงตลาดที่กว้างขึ้นด้วยโซลูชันที่ปรับขนาดได้และคุ้มค่า

ผลกระทบต่ออุตสาหกรรม: การแข่งขันที่เพิ่มขึ้นนี้เป็นผลดีต่อผู้บริโภคและอุตสาหกรรมโดยรวม เพราะจะกระตุ้นให้เกิดนวัตกรรมและอาจนำไปสู่การลดต้นทุนฮาร์ดแวร์ AI ในอนาคต การมีผู้เล่นหลายรายที่มีเทคโนโลยีที่แตกต่างกันจะช่วยให้องค์กรมีทางเลือกมากขึ้นในการสร้างโครงสร้างพื้นฐาน AI ที่เหมาะสมกับความต้องการและงบประมาณของตนเอง นอกจากนี้ยังอาจเร่งให้เกิดการพัฒนามาตรฐานใหม่ๆ สำหรับการเชื่อมต่อ AI เพื่อรองรับการขยายตัวของ Generative AI และ Large Language Models (LLMs)

โดยสรุปแล้ว Tomahawk Ultra Ethernet ไม่ใช่แค่ชิปสวิตช์ใหม่ แต่เป็นสัญลักษณ์ของการเปลี่ยนแปลงภูมิทัศน์ของฮาร์ดแวร์ AI ที่กำลังจะเกิดขึ้น และเป็นบทพิสูจน์ว่า Broadcom พร้อมที่จะเป็นผู้เล่นหลักในการกำหนดทิศทางของ AI ในอนาคต