NVIDIA เปิดตัว Project DIGITS พร้อมซูเปอร์ชิป GB10 ใหม่ในฐานะซูเปอร์คอมพิวเตอร์ AI ที่เล็กที่สุดในโลกที่สามารถรันโมเดลพารามิเตอร์ 200B ได้

NVIDIA ได้เปิดตัว NVIDIA® Project DIGITS ซึ่งเป็นซูเปอร์คอมพิวเตอร์ส่วนบุคคลด้านปัญญาประดิษฐ์ (AI) ที่ช่วยให้ผู้วิจัยด้านปัญญาประดิษฐ์ นักวิทยาศาสตร์ข้อมูล และนักศึกษาจากทั่วโลกสามารถเข้าถึงพลังของแพลตฟอร์ม NVIDIA Grace Blackwell ได้

Project DIGITS นำเสนอซูเปอร์ชิป NVIDIA GB10 Grace Blackwell ใหม่ ซึ่งมอบประสิทธิภาพการประมวลผล AI ที่ระดับ Petaflop สำหรับการสร้างต้นแบบ การปรับแต่ง และการเรียกใช้โมเดล AI ขนาดใหญ่

ด้วย Project DIGITS ผู้ใช้สามารถพัฒนาและเรียกใช้การอนุมานบนโมเดลโดยใช้ระบบบนเดสก์ท็อปของตนเอง จากนั้นจึงนำโมเดลไปใช้งานบนคลาวด์ที่เร่งความเร็วหรือโครงสร้างพื้นฐานของศูนย์ข้อมูลได้อย่างราบรื่น

“AI จะกลายเป็นกระแสหลักในทุกแอปพลิเคชันสำหรับทุกอุตสาหกรรม ด้วย Project DIGITS ซูเปอร์ชิป Grace Blackwell จะเข้าถึงนักพัฒนาหลายล้านคน” Jensen Huang ผู้ก่อตั้งและซีอีโอของ NVIDIA กล่าว “การวางซูเปอร์คอมพิวเตอร์ AI ไว้บนโต๊ะของนักวิทยาศาสตร์ข้อมูล นักวิจัย AI และนักศึกษาทุกคน จะช่วยให้พวกเขาสามารถมีส่วนร่วมและกำหนดยุคของ AI ได้”

GB10 Superchip มอบประสิทธิภาพของ AI ที่ประหยัดพลังงานในระดับ Petaflop 

GB10 Superchip เป็น System-on-Chip (SoC) ที่ใช้สถาปัตยกรรม NVIDIA Grace Blackwell และมอบประสิทธิภาพสูงสุดในระดับ 1 Petaflop ของประสิทธิภาพ AI ที่ความแม่นยำ FP4 

GB10 มีคุณลักษณะของ NVIDIA Blackwell GPU ด้วย CUDA® คอร์ รุ่นล่าสุดและมี  Tensor Cores เจนเนอเรชันที่ 5, ใช้ NVLink®-C2C ในการเชื่อมต่อกันแบบชิปต่อชิปให้ประสิทธิภาพสูง NVIDIA Grace™ CPU ซึ่งประกอบด้วยคอร์ประหยัดพลังงาน 20 คอร์ ที่สร้างด้วยสถาปัตยกรรม Arm MediaTek ผู้นำตลาดในการออกแบบ SoC แบบ Arm ได้ร่วมมือกันออกแบบ GB10 ซึ่งมีส่วนช่วยในเรื่องประสิทธิภาพการใช้พลังงาน ประสิทธิภาพ และการเชื่อมต่อที่ดีที่สุดในระดับเดียวกัน 

GB10 Superchip ช่วยให้ Project DIGITS สามารถส่งมอบประสิทธิภาพอันทรงพลังโดยใช้เพียงปลั๊กไฟมาตรฐานเท่านั้น โดยแต่ละ Project DIGITS มีหน่วยความจำรวม 128GB และที่เก็บข้อมูล NVMe สูงสุด 4TB ด้วยซูเปอร์คอมพิวเตอร์นี้ นักพัฒนาสามารถเรียกใช้โมเดลภาษาขนาดใหญ่ที่มีพารามิเตอร์มากถึง 200,000 ล้านตัวเพื่อเร่งนวัตกรรม AI นอกจากนี้ การใช้เครือข่าย NVIDIA ConnectX® ยังเชื่อมต่อซูเปอร์คอมพิวเตอร์ AI ของ Project DIGITS สองเครื่องเพื่อเรียกใช้โมเดลที่มีพารามิเตอร์มากถึง 405,000 ล้านตัว

Grace Blackwell AI ซูเปอร์คอมพิวเตอร์ที่เข้าถึงได้

ด้วยสถาปัตยกรรม Grace Blackwell องค์กรต่างๆ และนักวิจัยสามารถสร้างต้นแบบ ปรับแต่ง และทดสอบโมเดลบนระบบ Project DIGITS ภายในเครื่องที่รัน NVIDIA DGX OS บนระบบปฏิบัติการ Linux จากนั้นจึงนำไปปรับใช้ได้อย่างราบรื่นบน NVIDIA DGX Cloud™ อินสแตนซ์คลาวด์เร่งความเร็ว หรือโครงสร้างพื้นฐานของศูนย์ข้อมูล

ช่วยให้นักพัฒนาสามารถสร้างต้นแบบ AI บน Project DIGITS จากนั้นปรับขนาดบนโครงสร้างพื้นฐานคลาวด์หรือศูนย์ข้อมูล โดยใช้สถาปัตยกรรม Grace Blackwell แบบเดียวกันและรวมถึงการใช้แพลตฟอร์มซอฟต์แวร์ NVIDIA AI Enterprise

ผู้ใช้ Project DIGITS สามารถเข้าถึงคลังซอฟต์แวร์ NVIDIA AI มากมายสำหรับการทดลองและสร้างต้นแบบ รวมถึงชุดพัฒนาซอฟต์แวร์ เครื่องมือจัดระเบียบ เฟรมเวิร์ก และโมเดลที่มีอยู่ในแค็ตตาล็อก NVIDIA NGC และบนพอร์ทัล NVIDIA Developer นักพัฒนาสามารถปรับแต่งโมเดลด้วยเฟรมเวิร์ค NVIDIA NeMo™  เร่งการประมวลผลของวิทยาการข้อมูลด้วยไลบรารี NVIDIA RAPIDS™ และรันเฟรมเวิร์กทั่วไปเช่น PyTorch, Python และ Jupyter notebooks

ในการสร้างแอปพลิเคชัน AI แบบเอเจนต์ ผู้ใช้ยังสามารถควบคุมได้อีกด้วย NVIDIA Blueprint และ NVIDIA NIM™ ไมโครเซอร์วิส ซึ่งพร้อมสำหรับการวิจัย พัฒนา และทดสอบผ่าน NVIDIA Developer Program เมื่อแอปพลิเคชัน AI พร้อมที่จะย้ายจากสภาพแวดล้อมการทดลองไปสู่สภาพแวดล้อมการใช้งานจริง สิทธิ์การใช้งาน NVIDIA AI Enterprise จะมอบความปลอดภัยระดับองค์กร การสนับสนุน และการเผยแพร่ผลิตภัณฑ์ของซอฟต์แวร์ NVIDIA AI  

ในการสร้างแอปพลิเคชัน AI agent ผู้ใช้ยังสามารถใช้ประโยชน์จาก NVIDIA Blueprints และไมโครเซอร์วิส NVIDIA NIM™ ซึ่งพร้อมใช้งานสำหรับการวิจัย พัฒนา และทดสอบผ่านโปรแกรมนักพัฒนา ของ NVIDIA เมื่อแอปพลิเคชัน AI พร้อมที่จะย้ายจากสภาพแวดล้อมการทดลองไปสู่การใช้งานจริง ใบอนุญาต NVIDIA AI Enterprise จะมอบการรักษาความปลอดภัยระดับองค์กร การสนับสนุน และการเผยแพร่ผลิตภัณฑ์ซอฟต์แวร์ NVIDIA AI