NVIDIA NIM ปฏิวัติการใช้งานโมเดล พร้อมให้ใช้งานแล้วเพื่อเปลี่ยนนักพัฒนาหลายล้านคนทั่วโลกให้กลายเป็นนักพัฒนา Generative AI

  • พันธมิตรกว่า 150 รายทั่วทุกชั้นของระบบนิเวศ AI ที่ฝังไมโครเซอร์วิสการอนุมานของ NIM เพื่อเพิ่มความเร็วในการปรับใช้แอปพลิเคชัน AI ระดับองค์กรจากสัปดาห์เหลือเพียงไม่กี่นาที
  • สมาชิกโปรแกรมนักพัฒนา NVIDIA สามารถเข้าถึง NIM ฟรีเพื่อการวิจัย การพัฒนา และการทดสอบ

งาน COMPUTEX— NVIDIA ประกาศในวันนี้ว่านักพัฒนา 28 ล้านคนทั่วโลกสามารถดาวน์โหลด NVIDIA NIM™ ซึ่งเป็นไมโครเซอร์วิสการอนุมานที่ให้โมเดลเป็นคอนเทนเนอร์ที่ได้รับการปรับปรุง เพื่อปรับใช้บนคลาวด์ ศูนย์ข้อมูล หรือเวิร์กสเตชัน ทำให้พวกเขามีความสามารถในการสร้างแอปพลิเคชัน AI เชิงสร้างสรรค์สำหรับ Copilots ได้อย่างง่ายดาย แชทบอทและอื่น ๆ อีกมากมายในไม่กี่นาทีแทนที่จะเป็นสัปดาห์

แอปพลิเคชัน AI เจนเนอเรชั่นใหม่เหล่านี้มีความซับซ้อนมากขึ้นเรื่อย ๆ และมักใช้หลายโมเดลที่มีความสามารถที่แตกต่างกันในการสร้างข้อความ รูปภาพ วิดีโอ คำพูด และอื่นๆ NVIDIA NIM เพิ่มประสิทธิภาพการทำงานของนักพัฒนาได้อย่างมากโดยมอบวิธีที่ง่ายและเป็นมาตรฐานในการเพิ่ม AI เชิงสร้างสรรค์ให้กับแอปพลิเคชันของพวกเขา

NIM ยังช่วยให้องค์กรต่างๆ เพิ่มการลงทุนด้านโครงสร้างพื้นฐานให้เกิดประโยชน์สูงสุด ตัวอย่างเช่น การรัน Meta Llama 3-8B ใน NIM จะสร้างโทเค็น AI ที่สร้างบนโครงสร้างพื้นฐานแบบเร่งได้ถึง 3 เท่ามากกว่าที่ไม่มี NIM ช่วยให้องค์กรต่างๆ เพิ่มประสิทธิภาพและใช้โครงสร้างพื้นฐานการประมวลผลในปริมาณเท่าเดิมเพื่อสร้างการตอบสนองที่มากขึ้น

พันธมิตรด้านเทคโนโลยีเกือบ 200 ราย รวมถึง Cadence, Cloudera , Cohesity , DataStax , NetApp , Scale AI และSynopsysกำลังรวม NIM เข้ากับแพลตฟอร์มของตนเพื่อเร่งความเร็วในการปรับใช้ AI ที่สร้างสำหรับแอปพลิเคชันเฉพาะโดเมน เช่น copilots, code Assistants และอวตารมนุษย์ดิจิทัลHugging Faceกำลังนำเสนอ NIM — เริ่มต้นด้วยMeta Llama 3

“ทุกองค์กรกำลังมองหาการเพิ่ม generative AI ให้กับการดำเนินงาน แต่ไม่ใช่ทุกองค์กรที่มีทีมนักวิจัย AI โดยเฉพาะ” Jensen Huang ผู้ก่อตั้งและซีอีโอของ NVIDIA กล่าว “บูรณาการเข้ากับแพลตฟอร์มทุกที่ เข้าถึงได้สำหรับนักพัฒนาทุกที่ ทำงานได้ทุกที่ — NVIDIA NIM กำลังช่วยให้อุตสาหกรรมเทคโนโลยีนำ Generative AI มาสู่ทุกองค์กร”

องค์กรต่าง ๆ สามารถปรับใช้แอปพลิเคชัน AI ในการผลิตด้วย NIM ผ่านแพลตฟอร์มซอฟต์แวร์ NVIDIA AI Enterprise ตั้งแต่เดือนกรกฎาคมเป็นต้นไป สมาชิกของ NVIDIA Developer Program จะสามารถเข้าถึง NIM ได้ฟรีเพื่อการวิจัย การพัฒนา และการทดสอบบนโครงสร้างพื้นฐานที่ต้องการ

โมเดล NIM Microservices Power Gen AI มากกว่า 40 แบบ

ข้ามรูปแบบ คอนเทนเนอร์ NIM สร้างไว้ล่วงหน้าเพื่อเพิ่มความเร็วในการปรับใช้โมเดลสำหรับการอนุมานที่เร่งด้วย GPU และสามารถรวมซอฟต์แวร์ NVIDIA CUDA®, NVIDIA Triton Inference Server™ และซอฟต์แวร์ NVIDIA TensorRT™-LLM

NVIDIA และโมเดลชุมชนมากกว่า 40 โมเดลพร้อมให้ใช้งานในฐานะจุดสิ้นสุด NIM บนai.nvidia.comรวมถึงDatabricks DBRX , โมเดลแบบเปิดของ Google Gemma, Meta Llama 3, Microsoft Phi-3, Mistral Large, Mixtral 8x22B และ Snowflake Arctic

ขณะนี้นักพัฒนาสามารถเข้าถึงไมโครเซอร์วิส NVIDIA NIM สำหรับรุ่น Meta Llama 3 ได้จาก แพลตฟอร์ม Hugging Face AI ช่วยให้นักพัฒนาสามารถเข้าถึงและรัน Llama 3 NIM ได้อย่างง่ายดายด้วยการคลิกเพียงไม่กี่ครั้งโดยใช้ Hugging Face Inference Endpoints ซึ่งขับเคลื่อนโดย NVIDIA GPU บนคลาวด์ที่ต้องการ

องค์กรต่างๆ สามารถใช้ NIM เพื่อรันแอปพลิเคชันสำหรับสร้างข้อความ รูปภาพ และวิดีโอ คำพูด และมนุษย์ดิจิทัล ด้วย ไมโครเซอร์วิส NVIDIA BioNeMo™ NIM สำหรับชีววิทยาดิจิทัล นักวิจัยสามารถสร้างโครงสร้างโปรตีนใหม่เพื่อเร่งการค้นพบยาได้

บริษัทด้านการดูแลสุขภาพหลายสิบแห่งกำลังปรับใช้ NIMเพื่อขับเคลื่อนการอนุมาน AI แบบกำเนิดในแอปพลิเคชันต่างๆ รวมถึงการวางแผนการผ่าตัด ผู้ช่วยดิจิทัล การค้นพบยา และการเพิ่มประสิทธิภาพการทดลองทางคลินิก

ด้วยไมโครเซอร์วิส NVIDIA ACE NIM ใหม่ นักพัฒนาสามารถสร้างและดำเนินการมนุษย์ดิจิทัลแบบโต้ตอบและเหมือนจริงในแอปพลิเคชันสำหรับการบริการลูกค้า การดูแลสุขภาพทางไกล การศึกษา การเล่นเกม และความบันเทิงได้อย่างง่ายดาย

พาร์เนอร์ AI Ecosystem หลายร้อยราย

ที่ฝั่งผู้ให้บริการแพลตฟอร์ม NIM ซึ่งรวมถึง Canonical, Red Hat, Nutanix และ VMware (ซื้อกิจการโดย Broadcom) กำลังสนับสนุน NIM บน KServe แบบโอเพ่นซอร์สหรือโซลูชันระดับองค์กร บริษัทแอปพลิเคชัน AI Hippocratic AI , Glean , Kinetica และ Redis กำลังปรับใช้ NIM เพื่อขับเคลื่อนการอนุมาน AI แบบกำเนิด

เครื่องมือ AI ชั้นนำและพันธมิตร MLOps รวมถึง Amazon SageMaker, Microsoft Azure AI, Dataiku, DataRobot, deepset, Domino Data Lab, LangChain, Llama Index, Replicate, Run.ai, Saturn Cloud, Securiti AI และ Weights & Biases ต่างก็ฝัง NIM ไว้เช่นกัน ลงในแพลตฟอร์มเพื่อให้นักพัฒนาสามารถสร้างและปรับใช้แอปพลิเคชัน AI ที่สร้างเฉพาะโดเมนพร้อมการอนุมานที่ได้รับการปรับปรุงให้เหมาะสม

ผู้วางระบบทั่วโลกและพันธมิตรด้านการให้บริการ Accenture, Deloitte, Infosys, Latentview , Quantiphi , SoftServe, Tata Consultancy Services (TCS) และ Wipro ได้สร้างขีดความสามารถของ NIM เพื่อช่วยให้องค์กรต่างๆ ของโลกพัฒนาและปรับใช้กลยุทธ์ AI การผลิตได้อย่างรวดเร็ว

องค์กรต่าง ๆ สามารถเรียกใช้แอปพลิเคชันที่เปิดใช้งาน NIM ได้แทบทุกที่ รวมถึงบน NVIDIA-Certified Systems™ จากผู้ผลิตโครงสร้างพื้นฐานระดับโลก Cisco, Dell Technologies, Hewlett-Packard Enterprise, Lenovo และ Supermicro รวมถึงผู้ผลิตเซิร์ฟเวอร์ ASRock Rack, ASUS, GIGABYTE, Ingrasys, Inventec, Pegatron, QCT, Wistron and Wiwynn. ไมโครเซอร์วิสของ NIM ยังถูกรวมเข้ากับAmazon Web Services, Google Cloud, Azure และ Oracle Cloud Infrastructure

ยักษ์ใหญ่แห่งอุตสาหกรรมขยาย Generative AI ด้วย NIM

ผู้นำอุตสาหกรรม Foxconn, Pegatron, Amdocs, Lowe’s, ServiceNow และ Siemens เป็นหนึ่งในธุรกิจที่ใช้ NIM สำหรับแอปพลิเคชัน generative AI ในการผลิต การดูแลสุขภาพ บริการทางการเงิน การค้าปลีก การบริการลูกค้า และอื่น ๆ :

  • Foxconn ผู้ผลิตอุปกรณ์อิเล็กทรอนิกส์รายใหญ่ที่สุดของโลก กำลังใช้ NIM ในการพัฒนา LLM เฉพาะโดเมนที่ฝังอยู่ในระบบและกระบวนการภายในที่หลากหลายในโรงงาน AI สำหรับการผลิตอัจฉริยะ เมืองอัจฉริยะ และยานพาหนะไฟฟ้าอัจฉริยะ
  • Pegatron บริษัทผู้ผลิตอุปกรณ์อิเล็กทรอนิกส์ของไต้หวัน กำลังใช้ประโยชน์จาก NIM สำหรับ Project TaME ซึ่งเป็นโมเดล Mixtral of Experts ของไต้หวันที่ออกแบบมาเพื่อพัฒนาการพัฒนา LLM ในท้องถิ่นสำหรับอุตสาหกรรม
  • Amdocs — ผู้ให้บริการซอฟต์แวร์และบริการชั้นนำระดับโลกแก่บริษัทด้านการสื่อสารและสื่อ กำลังใช้ NIMเพื่อดำเนินการ LLM การเรียกเก็บเงินของลูกค้า ซึ่งช่วยลดต้นทุนของโทเค็นได้อย่างมาก ปรับปรุงความแม่นยำได้สูงสุดถึง 30% และลดความหน่วงลง 80% ขับเคลื่อนให้เกือบจะเป็นจริง – เวลาตอบสนอง
  • Lowe’s บริษัทปรับปรุงบ้าน ใน FORTUNE® 50 ใช้ Generative AI สำหรับงานที่หลากหลาย เช่น ใช้ประโยชน์จากไมโครเซอร์วิสการอนุมานของ NVIDIA NIM เพื่อยกระดับประสบการณ์ให้กับพนักงานและลูกค้า
  • ServiceNow — แพลตฟอร์ม AI สำหรับการเปลี่ยนแปลงธุรกิจ — ได้ประกาศเมื่อต้นปีนี้ว่าเป็นหนึ่งในผู้ให้บริการแพลตฟอร์มรายแรกที่เข้าถึง NIM เพื่อให้การพัฒนาและการปรับใช้ LLM รวดเร็ว ปรับขนาดได้ และคุ้มค่ายิ่งขึ้นสำหรับลูกค้า ไมโครเซอร์วิสของ NIM ได้รับการบูรณาการภายในโมเดลหลากรูปแบบ Now AI และพร้อมใช้งานสำหรับลูกค้าที่ติดตั้ง Now Assist ซึ่งเป็นประสบการณ์ Generative AI ของ ServiceNow แล้ว
  • Siemens บริษัทเทคโนโลยีระดับโลกที่มุ่งเน้นอุตสาหกรรม โครงสร้างพื้นฐาน การขนส่ง และการดูแลสุขภาพ กำลังบูรณาการเทคโนโลยีการดำเนินงานเข้ากับไมโครเซอร์วิส NIM สำหรับเวิร์กโหลด AI ในโรงงาน นอกจากนี้กำลังสร้าง Industrial Copilot สำหรับผู้ควบคุมเครื่องจักรเวอร์ชันภายในองค์กรโดยใช้ NIM อีกด้วย

ความพร้อมใช้งาน

นักพัฒนาสามารถทดลองใช้ไมโครเซอร์วิสของ NVIDIA ได้ที่ ai.nvidia.com โดยไม่มีค่าใช้จ่าย องค์กรต่าง ๆ สามารถปรับใช้ไมโครเซอร์วิส NIM ระดับการผลิตด้วย NVIDIA AI Enterprise ที่ทำงานบนระบบที่ได้รับการรับรองจาก NVIDIA และแพลตฟอร์มคลาวด์ชั้นนำ เริ่มตั้งแต่เดือนหน้า สมาชิกของ NVIDIA Developer Program จะสามารถเข้าถึง NIM ฟรีเพื่อการวิจัยและการทดสอบ

เพื่อเรียนรู้เพิ่มเติมเกี่ยวกับ NVIDIA NIM โปรดรับชม Keynote ของ Huang ในงาน COMPUTEX 2024