NVIDIA CEO CPTX 2023

สรุปคีย์โน้ต NVIDIA CEO เปิดตัวแพลตฟอร์ม Generative AI สำหรับทุกอุตสาหกรรม ในงาน COMPUTEX 2023

คีย์โน้ตในงาน COMPUTEX แสดงให้เห็นถึงระบบซอฟต์แวร์ และบริการใหม่ ๆ ซึ่งหลายอย่างขับเคลื่อนโดย Grace Hopper Superchips เพื่อควบคุมเทคโนโลยีที่มีการเปลี่ยนแปลงมากที่สุดในยุคของเรา

นี่คือการปราศรัยต่อหน้าผู้คนเป็นครั้งแรกของเขานับตั้งแต่เกิดโรคระบาด Jensen Huang ผู้ก่อตั้งและซีอีโอของ NVIDIA ได้เริ่มการประชุมในงาน COMPUTEX 2023 ที่ไทเป โดยประกาศแพลตฟอร์มที่บริษัทต่าง ๆ สามารถใช้ขับเคลื่อนประวัติศาสตร์หน้าใหม่ของ Generative AI ซึ่งเปลี่ยนอุตสาหกรรมตั้งแต่การโฆษณาไปจนถึงการผลิต รวมถึงโทรคมนาคม

เขาได้อธิบายถึงบริการคอมพิวเตอร์แบบเร่งความเร็ว ซอฟต์แวร์ และระบบที่เปิดใช้งานโมเดลธุรกิจใหม่และทำให้โมเดลปัจจุบันมีประสิทธิภาพมากขึ้น

Huang ได้พูดถึงการเดินทางกลับมาที่บ้านเกิดของเขาในช่วงสัปดาห์ที่ผ่านมาว่าได้รับการติดตามทุกวันโดยสื่อท้องถิ่น

NVIDIA CEO CPTX2 2023

ข่าวยอดนิยมจากคีย์โน้ต

ขุมพลังใหม่สำหรับ Enterprise AI

ตอนนี้ Grace Hopper อยู่ในขั้นตอนการผลิตเต็มรูปแบบแล้ว Huang ประกาศการผสานรวม CPU NVIDIA Grace ที่ประหยัดพลังงานเข้ากับ GPU NVIDIA H100 Tensor Core ประสิทธิภาพสูงไว้ในโมดูลเดียว

สำหรับองค์กรที่ต้องการประสิทธิภาพสูงสุดของ AI เขาได้เปิดตัว DGX GH200 ซึ่งเป็น AI ซูเปอร์คอมพิวเตอร์ที่มีหน่วยความจำขนาดใหญ่ ใช้ NVIDIA NVLink เพื่อรวมชิป NVIDIA GH200 Grace Hopper สูงสุด 256 ตัวไว้ในศูนย์ข้อมูลเดี่ยว เพื่อประมวลผลเหมือนเป็น GPU เดียวกัน

dgx gh200 cpmtx23

DGX GH200 อัดแน่นไปด้วยประสิทธิภาพที่เหนือกว่าและมีหน่วยความจำที่ใช้ร่วมกัน 144 เทราไบต์ ซึ่งมากกว่าในระบบ NVIDIA DGX A100 ที่มีหน่วยความจำ 320GB เกือบ 500 เท่า ซึ่งช่วยให้นักพัฒนาสร้างโมเดลภาษาขนาดใหญ่สำหรับแชทบอท, Generative AI, อัลกอริทึมที่ซับซ้อนสำหรับระบบผู้แนะนำ และโครงข่ายประสาทเทียมแบบกราฟที่ใช้สำหรับการตรวจจับการฉ้อโกง และการวิเคราะห์ข้อมูล

Google Cloud, Meta และ Microsoft เป็นกลุ่มแรก ๆ ที่คาดว่าจะได้รับสิทธิ์เข้าถึง DGX GH200 เพื่อสำรวจขีดความสามารถสำหรับเวิร์กโหลด AI เชิงสร้างสรรค์

“ซูเปอร์คอมพิวเตอร์ DGX GH200 AI ผสานรวมเทคโนโลยีคอมพิวเตอร์และเครือข่ายเร่งความเร็วขั้นสูงที่สุดของ NVIDIA เพื่อขยายขอบเขตของ AI” Huang กล่าว

NVIDIA กำลังสร้างซูเปอร์คอมพิวเตอร์ AI ขนาดใหญ่ของตัวเองอย่าง NVIDIA Helios ซึ่งจะเปิดตัวในปีนี้ โดยจะใช้ระบบ DGX GH200 สี่ระบบที่เชื่อมโยงกับเครือข่าย NVIDIA Quantum-2 InfiniBand ที่มีแบนด์วิธสูงสุด 400Gb/s เพื่อเร่งความเร็วข้อมูลสำหรับการฝึกอบรมโมเดล AI ขนาดใหญ่

DGX GH200 สร้างจุดสุดยอดของระบบหลายร้อยระบบที่ประกาศในงานโดยใช้ GPU และ CPU ล่าสุดของ NVIDIA พวกเขาร่วมกันนำ AI กำเนิดและเร่งการประมวลผลมาสู่ผู้ใช้หลายล้านคน

เร่งความเร็วเวิร์คโหลดทุกขนาด

เพื่อให้เหมาะกับความต้องการของศูนย์ข้อมูลทุกขนาด Huang ได้ประกาศ NVIDIA MGX ซึ่งเป็นสถาปัตยกรรมอ้างอิงแบบแยกส่วนสำหรับการสร้างเซิร์ฟเวอร์เร่งความเร็ว ผู้ผลิตระบบจะใช้มันเพื่อเป็นต้นแบบในการกำหนดค่าเซิร์ฟเวอร์ที่แตกต่างกันกว่าร้อยรายการอย่างรวดเร็วและคุ้มค่าเพื่อให้เหมาะกับแอปพลิเคชัน AI, HPC และ NVIDIA Omniverse ที่หลากหลาย

MGX ช่วยให้ผู้ผลิตสร้าง CPU และเซิร์ฟเวอร์เร่งความเร็วโดยใช้สถาปัตยกรรมทั่วไปและส่วนประกอบแบบโมดูลาร์ รองรับ GPU, CPU, หน่วยประมวลผลข้อมูล (DPU) และอะแดปเตอร์เครือข่ายของ NVIDIA รวมถึงโปรเซสเซอร์ x86 และ Arm ในแชสซีระบายความร้อนด้วยอากาศและระบายความร้อนด้วยของเหลวที่หลากหลาย

QCT และ Supermicro จะเป็นเจ้าแรกในตลาดที่มีการออกแบบ MGX ซึ่งจะพร้อมใช้ในราวเดือนสิงหาคม ระบบ ARS-221GL-NR ของ Supermicro ที่ประกาศในงาน COMPUTEX จะใช้ Grace CPU ในขณะที่ระบบ S74G-2U ของ QCT ที่ประกาศในงานนี้เช่นกัน จะใช้ Grace Hopper

ASRock Rack, ASUS, GIGABYTE และ Pegatron จะใช้ MGX เพื่อสร้างคอมพิวเตอร์เร่งความเร็วรุ่นต่อไป

เมื่อมองไปยังภาพรวม Huang ประกาศว่าการระบบมากกว่า 400 รายการที่มีการตั้งค่าการทำงานที่ต่างกัน กำลังจะออกสู่ตลาดด้วยสถาปัตยกรรม NVIDIA Hopper, Grace และ Ada Lovelace พวกเขาตั้งเป้าที่จะรับมือกับความท้าทายที่ซับซ้อนที่สุดในด้าน AI, วิทยาศาสตร์ข้อมูล และการประมวลผลประสิทธิภาพสูง

5G ต้องการ Grace Hopper

คีย์โน้ตของเขายังแสดงให้เห็นว่า NVIDIA ช่วยพลิกโฉมหน้าใหม่ให้กับ 5G ด้วย Grace Hopper ได้อย่างไร

Huang ประกาศว่า NVIDIA กำลังทำงานร่วมกับยักษ์ใหญ่ด้านโทรคมนาคมเพื่อสร้างเครือข่ายกระจายศูนย์ข้อมูลในญี่ปุ่น โดยจะให้บริการ 5G และแอปพลิเคชัน Generative AI บนแพลตฟอร์มคลาวด์ทั่วไป

ศูนย์ข้อมูลจะใช้ Grace Hopper และ NVIDIA BlueField-3 DPU ในระบบ MGX แบบโมดูลาร์ เช่นเดียวกับสวิตช์ NVIDIA Spectrum Ethernet เพื่อส่งมอบจังหวะเวลาที่แม่นยำสูงตามที่โปรโตคอล 5G ต้องการ แพลตฟอร์มดังกล่าวจะลดต้นทุนโดยการเพิ่มประสิทธิภาพสเปกตรัมในขณะที่ลดการใช้พลังงาน

ระบบจะช่วยสำรวจแอปพลิเคชันในการขับขี่อัตโนมัติ, โรงงาน, AI, AR&VR, คอมพิวเตอร์วิทัศน์ และฝาแฝดดิจิทัล การใช้งานในอนาคตอาจรวมถึงการประชุมทางวิดีโอ 3 มิติและการสื่อสารแบบโฮโลแกรม

ติดเทอร์โบชาร์จเครือข่ายคลาวด์

นอกจากนี้ Huang ยังเปิดตัว NVIDIA Spectrum-X ซึ่งเป็นแพลตฟอร์มเครือข่ายที่สร้างขึ้นเพื่อปรับปรุงประสิทธิภาพและประสิทธิผลของ AI Cloud บนอีเทอร์เน็ต มันรวมสวิตช์อีเธอร์เน็ต Spectrum-4 เข้ากับ BlueField-3 DPU และซอฟต์แวร์เพื่อมอบประสิทธิภาพ AI และประสิทธิภาพพลังงานที่เพิ่มขึ้น 1.7 เท่าเมื่อเทียบกับแฟบริคอีเทอร์เน็ตแบบดั้งเดิม

ethernet switches spectrum x

สวิตช์ NVIDIA Spectrum-X, Spectrum-4 และ BlueField-3 DPU มีวางจำหน่ายแล้วจากผู้ผลิตระบบ เช่น Dell Technologies, Lenovo และ Supermicro

Huang ประกาศว่า NVIDIA กำลังสร้าง Israel-1 ซึ่งเป็น Generative AI ซูเปอร์คอมพิวเตอร์ ในศูนย์ข้อมูลของอิสราเอลมูลค่าหลายร้อยล้านดอลลาร์ ซึ่งจะถูกสร้างด้วยเซิร์ฟเวอร์ Dell PowerEdge, แพลตฟอร์มซูเปอร์คอมพิวเตอร์ NVIDIA HGX H100 และแพลตฟอร์ม Spectrum-X พร้อม BlueField-3 DPU และสวิตช์ Spectrum-4

ให้ชีวิตกับตัวละครในเกม

และ Generative AI ส่งผลกระทบต่อวิธีการเล่นของผู้คนเช่นกัน

Huang ประกาศ NVIDIA Avatar Cloud Engine (ACE) สำหรับเกม ซึ่งเป็นบริการที่นักพัฒนาสามารถใช้เพื่อสร้างและปรับใช้โมเดล AI แบบกำหนดเองสำหรับคำพูด การสนทนา และภาพเคลื่อนไหว มันจะให้ทักษะการสนทนากับตัวละครที่ไม่สามารถเล่นได้ (NPC) ดังนั้นพวกเขาจึงสามารถตอบคำถามด้วยบุคลิกที่เหมือนจริงตามที่พัฒนาขึ้น

nvidia ace press computex23

NVIDIA ACE for Games มีโมเดลพื้นฐานของ AI เช่น NVIDIA Riva เพื่อตรวจจับและถอดเสียงคำพูดของผู้เล่น, NVIDIA NeMo สร้างการตอบสนองแบบกำหนดเองที่เคลื่อนไหวด้วย NVIDIA Omniverse Audio2Face

เร่ง Generative AI บน Windows

Huang อธิบายว่า NVIDIA และ Microsoft ทำงานร่วมกันเพื่อขับเคลื่อนนวัตกรรมสำหรับพีซีที่ใช้ Windows ในยุค Generative AI ได้อย่างไร

เครื่องมือ เฟรมเวิร์ก และไดรเวอร์ใหม่ที่ได้รับการปรับปรุงช่วยให้นักพัฒนาบนแพลตฟอร์มพีซีสามารถพัฒนาและปรับใช้ AI ได้ง่ายขึ้น ตัวอย่างเช่น Microsoft Olive toolchain สำหรับการเพิ่มประสิทธิภาพและการปรับใช้โมเดล AI ที่เร่งด้วย GPU และไดรเวอร์กราฟิกใหม่จะเพิ่มประสิทธิภาพ DirectML บนพีซีที่ใช้ Windows ด้วย NVIDIA GPU

การทำงานร่วมกันจะปรับปรุงและขยายฐานการติดตั้งพีซี 100 ล้านเครื่องที่ใช้ GPU RTX พร้อม Tensor Cores ที่เพิ่มประสิทธิภาพของแอปและเกมบน Windows ที่เร่งความเร็วด้วย AI มากกว่า 400 รายการ

แปลงอุตสาหกรรมที่ใหญ่ที่สุดในโลกให้เป็นดิจิทัล

Generative AI ยังสร้างโอกาสใหม่ในอุตสาหกรรมโฆษณาดิจิทัลมูลค่า 700,000 ล้านดอลลาร์

ตัวอย่างเช่น WPP ซึ่งเป็นองค์กรบริการด้านการตลาดที่ใหญ่ที่สุดในโลก กำลังทำงานร่วมกับ NVIDIA เพื่อสร้างเครื่องมือสร้างเนื้อหาที่เปิดใช้งาน AI เป็นครั้งแรกบน Omniverse Cloud

ในการสาธิต Huang แสดงให้เห็นว่าทีมครีเอทีฟจะเชื่อมต่อเครื่องมือออกแบบ 3 มิติ เช่น Adobe Substance 3D เพื่อสร้างผลิตภัณฑ์ไคลเอนต์ฝาแฝดดิจิทัลใน NVIDIA Omniverse ได้อย่างไร จากนั้น เนื้อหาจากเครื่องมือสร้าง AI ที่ได้รับการฝึกอบรมเกี่ยวกับข้อมูลที่มาจากความรับผิดชอบและสร้างด้วย NVIDIA Picasso จะช่วยให้พวกเขาสร้างชุดเสมือนจริงได้อย่างรวดเร็ว จากนั้นลูกค้าของ WPP สามารถใช้ฉากที่สมบูรณ์เพื่อสร้างโฮสต์ของโฆษณา วิดีโอ และประสบการณ์ 3 มิติ สำหรับตลาดทั่วโลกและให้ผู้ใช้ได้สัมผัสบนอุปกรณ์ใด ๆ ที่เข้าสู่เว็บไซต์ได้

โรงงานสร้างอนาคตของ AI

ด้วยโรงงานประมาณ 10 ล้านแห่ง ภาคการผลิตมูลค่า 46 ล้านล้านดอลลาร์จึงเป็นสาขาที่อุดมสมบูรณ์สำหรับอุตสาหกรรมดิจิทัล

“อุตสาหกรรมที่ใหญ่ที่สุดในโลกสร้างสิ่งที่จับต้องได้ การสร้างแบบดิจิทัลก่อนสามารถช่วยประหยัดได้หลายพันล้าน” Huang กล่าว

คีย์โน้ตของเขาแสดงให้เห็นว่าผู้ผลิตอุปกรณ์อิเล็กทรอนิกส์ เช่น Foxconn Industrial Internet, Innodisk, Pegatron, Quanta และ Wistron กำลังจำลองเวิร์กโฟลว์ดิจิทัลด้วยเทคโนโลยี NVIDIA เพื่อบรรลุวิสัยทัศน์ของโรงงานดิจิทัลอัจฉริยะทั้งหมด

พวกเขากำลังใช้ Omniverse และ Generative AI API เพื่อเชื่อมต่อเครื่องมือการออกแบบและการผลิต เพื่อให้สามารถสร้างโรงงานฝาแฝดดิจิทัลได้ นอกจากนี้ยังใช้ NVIDIA Isaac Sim สำหรับการจำลองและทดสอบหุ่นยนต์ และ NVIDIA Metropolis ซึ่งเป็นเฟรมเวิร์ก AI สำหรับการมองเห็นสำหรับการตรวจสอบด้วยแสงอัตโนมัติ

ส่วนประกอบล่าสุด NVIDIA Metropolis for Factory สามารถสร้างระบบควบคุมคุณภาพแบบกำหนดเองได้ ทำให้ผู้ผลิตมีความได้เปรียบในการแข่งขัน ช่วยให้บริษัทต่าง ๆ พัฒนาแอปพลิเคชัน AI ที่ล้ำสมัย

AI เร่งสายการผลิต

ตัวอย่างเช่น Pegatron ซึ่งผลิตสินค้ากว่า 300 รายการทั่วโลก รวมถึงแล็ปท็อปและสมาร์ทโฟน กำลังสร้างโรงงานเสมือนจริงด้วย Omniverse, Isaac Sim และ Metropolis ที่ช่วยให้สามารถทดลองกระบวนการต่าง ๆ ในสภาพแวดล้อมจำลอง ประหยัดเวลาและค่าใช้จ่าย

นอกจากนี้ Pegatron ยังใช้ชุดพัฒนาซอฟต์แวร์ NVIDIA DeepStream เพื่อพัฒนาแอปพลิเคชันวิดีโออัจฉริยะที่นำไปสู่การปรับปรุงปริมาณงานถึง 10 เท่า

Foxconn Industrial Internet ซึ่งเป็นหน่วยงานบริการของผู้ผลิตเทคโนโลยีรายใหญ่ที่สุดของโลก กำลังทำงานร่วมกับพันธมิตรด้วย NVIDIA Metropolis เพื่อทำให้ส่วนสำคัญของจุดตรวจสอบ การรับประกันคุณภาพของแผงวงจรเป็นแบบอัตโนมัติ

ในวิดีโอ Huang แสดงให้เห็นว่า Techman Robot ซึ่งเป็นบริษัทในเครือ Quanta ใช้ NVIDIA Isaac Sim เพื่อเพิ่มประสิทธิภาพการตรวจสอบสายการผลิตของบริษัทยักษ์ใหญ่ในไต้หวันได้อย่างไร โดยพื้นฐานแล้ว มีการใช้หุ่นยนต์จำลองเพื่อฝึกหุ่นยนต์ให้เรียนรู้ในการสร้างหุ่นยนต์ที่ดีขึ้น 

ระบบนิเวศของพันธมิตรขนาดใหญ่ — รวมถึง ADLINK, Aetina, Deloitte, Quantiphi และ Siemens กำลังช่วยนำโซลูชันการผลิตเหล่านี้ออกสู่ตลาด Huang กล่าว

เป็นอีกตัวอย่างหนึ่งของวิธีที่ NVIDIA ช่วยให้บริษัทต่าง ๆ รู้สึกถึงประโยชน์ของ Generative AI ด้วยการประมวลผลแบบเร่งความเร็ว

หากต้องการเรียนรู้เพิ่มเติม สามารถรับชมได้จากคีย์โน้ตฉบับเต็ม