ไมโครเซอร์วิสใหม่ 4 รายการช่วยเร่งการปรับใช้แอปพลิเคชัน AI ขั้นสูงที่ให้ความคล่องตัวด้านวัฒนธรรมและภาษาขั้นสูง

ประชาชาติทั่วโลกกำลังติดตาม Sovereign AI เพื่อพัฒนาระบบปัญญาประดิษฐ์โดยใช้โครงสร้างพื้นฐานการประมวลผล ข้อมูล พนักงาน และเครือข่ายธุรกิจของตนเอง เพื่อให้มั่นใจว่าระบบ AI สอดคล้องกับค่านิยม กฎหมาย และผลประโยชน์ในท้องถิ่น

เพื่อสนับสนุนความพยายามเหล่านี้ วันนี้ NVIDIA ได้ประกาศเปิดตัว ไมโครเซอร์วิส NVIDIA NIM ใหม่ 4 รายการ ที่ช่วยให้นักพัฒนาสามารถสร้างและปรับใช้แอปพลิเคชัน AI ที่มีประสิทธิภาพสูงได้ง่ายขึ้น

ไมโครเซอร์วิสสนับสนุนโมเดลชุมชนยอดนิยมที่ได้รับการปรับแต่งให้ตรงกับความต้องการของภูมิภาค พวกเขาปรับปรุงการโต้ตอบของผู้ใช้ผ่านความเข้าใจที่ถูกต้องและปรับปรุงการตอบสนองตามภาษาท้องถิ่นและมรดกทางวัฒนธรรม

ในภูมิภาคเอเชียแปซิฟิกเพียงแห่งเดียว คาดว่ารายได้จากซอฟต์แวร์ AI ทั่วไปจะสูงถึง 48 พันล้านดอลลาร์ภายในปี 2030 เพิ่มขึ้นจาก 5 พันล้านดอลลาร์ในปีนี้ – อ้างอิงจาก ABI Research

Llama-3-Swallow-70B ที่ได้รับการฝึกอบรมเกี่ยวกับข้อมูลของญี่ปุ่น และ Llama-3-Taiwan-70B ที่ได้รับการฝึกอบรมเกี่ยวกับข้อมูลภาษาจีนกลาง ถือเป็นโมเดลภาษาระดับภูมิภาคที่ให้ความเข้าใจที่ลึกซึ้งยิ่งขึ้นเกี่ยวกับกฎหมาย กฎระเบียบ และประเพณีอื่น ๆ ในท้องถิ่น

โมเดลตระกูล RakutenAI 7B ซึ่งสร้างจาก Mistral-7B ได้รับการฝึกเป็นภาษาอังกฤษและชุดข้อมูลภาษาญี่ปุ่น และพร้อมใช้งานเป็นไมโครเซอร์วิส NIM สองรายการสำหรับ Chat และ Instruct โมเดลเหล่านี้ได้รับคะแนนชั้นนำในบรรดาโมเดลภาษาญี่ปุ่นแบบเปิดขนาดใหญ่ โดยได้รับคะแนนเฉลี่ยสูงสุดในเกณฑ์มาตรฐาน LM Evaling Harness ที่ดำเนินการตั้งแต่เดือนมกราคมถึงมีนาคม 2024

การฝึกอบรม แบบจำลองภาษาขนาดใหญ่ (LLM) ในภาษาประจำภูมิภาคช่วยเพิ่มประสิทธิผลของผลลัพธ์โดยรับประกันการสื่อสารที่แม่นยำและเหมาะสมยิ่งขึ้น เนื่องจากเข้าใจและสะท้อนถึงความละเอียดอ่อนทางวัฒนธรรมและภาษาได้ดียิ่งขึ้น

แบบจำลองนี้นำเสนอประสิทธิภาพชั้นนำสำหรับการทำความเข้าใจภาษาญี่ปุ่นและภาษาจีนกลาง งานกฎหมายระดับภูมิภาค การตอบคำถาม และการแปลภาษาและการสรุปผล เมื่อเปรียบเทียบกับ LLM พื้นฐาน เช่น Llama 3

หลายประเทศทั่วโลก — จาก สิงคโปร์, สหรัฐอาหรับเอมิเรตส์, เกาหลีใต้ และสวีเดนไปจนถึงฝรั่งเศส อิตาลี และอินเดีย — กำลังลงทุนในโครงสร้างพื้นฐาน Sovereign AI

ไมโครเซอร์วิส NIM ใหม่ช่วยให้ธุรกิจ หน่วยงานภาครัฐ และมหาวิทยาลัยสามารถโฮสต์ LLM ดั้งเดิมในสภาพแวดล้อมของตนเอง ช่วยให้นักพัฒนาสามารถสร้าง Copilots แชทบอท และผู้ช่วย AI ขั้นสูงได้

การพัฒนาแอปพลิเคชันด้วยไมโครเซอร์วิส Sovereign AI NIM

นักพัฒนาสามารถปรับใช้โมเดล AI ระดับสูงซึ่งบรรจุเป็นไมโครเซอร์วิส NIM ในการผลิตได้อย่างง่ายดาย พร้อมทั้งได้รับประสิทธิภาพที่ดีขึ้น

ไมโครเซอร์วิสที่ใช้ได้กับ NVIDIA AI Enterprise ได้รับการปรับให้เหมาะสมสำหรับการอนุมานด้วย NVIDIA TensorRT-LLM ซึ่งเป็นไลบรารีแบบโอเพ่นซอร์ส

ไมโครเซอร์วิส NIM สำหรับ Llama 3 70B ซึ่งใช้เป็นโมเดลพื้นฐานสำหรับไมโครเซอร์วิส NIM Llama–3-Swallow-70B และ Llama-3-Taiwan-70B ใหม่ สามารถให้ปริมาณงานที่สูงขึ้นถึง 5 เท่า ซึ่งช่วยลดต้นทุนรวมในการรันโมเดลในการผลิต และมอบประสบการณ์ผู้ใช้ที่ดีขึ้นโดยการลดเวลาแฝง

ไมโครเซอร์วิส NIM ใหม่พร้อมใช้งานแล้ววันนี้ในรูปแบบโฮสต์ Application Programming Interfaces (API)

ปรับใช้ NVIDIA NIM เพื่อผลลัพท์ของ Generative AI ที่รวดเร็วและแม่นยำยิ่งขึ้น

ไมโครเซอร์วิสของ NIM เร่งการปรับใช้ เพิ่มประสิทธิภาพโดยรวม และมอบความปลอดภัยที่จำเป็นสำหรับองค์กรในอุตสาหกรรมทั่วโลก รวมถึงการดูแลสุขภาพ การเงิน การผลิต การศึกษา และกฎหมาย

สถาบันเทคโนโลยีแห่งโตเกียวได้ปรับแต่ง Llama-3-Swallow 70B โดยใช้ข้อมูลภาษาญี่ปุ่น

“LLM ไม่ใช่เครื่องมือกลที่ให้ประโยชน์เหมือนกันสำหรับทุกคน สิ่งเหล่านี้ค่อนข้างเป็นเครื่องมือทางปัญญาที่มีปฏิสัมพันธ์กับวัฒนธรรมและความคิดสร้างสรรค์ของมนุษย์ อิทธิพลนั้นเกิดขึ้นร่วมกัน โดยไม่เพียงแต่แบบจำลองที่ได้รับผลกระทบจากข้อมูลที่เราฝึกอบรมเท่านั้น แต่ยังรวมถึงวัฒนธรรมของเราและข้อมูลที่เราสร้างขึ้นจะได้รับอิทธิพลจาก LLM” ริโอ โยโกตะ ศาสตราจารย์จากศูนย์ข้อมูลวิทยาศาสตร์และคอมพิวเตอร์ระดับโลกของสถาบันเทคโนโลยีโตเกียว “ดังนั้นจึงมีความสำคัญอย่างยิ่งในการพัฒนาโมเดล Sovereign AI ที่ปฏิบัติตามบรรทัดฐานทางวัฒนธรรมของเรา ความพร้อมใช้งานของ Llama-3-Swallow ในฐานะไมโครเซอร์วิส NVIDIA NIM จะช่วยให้นักพัฒนาสามารถเข้าถึงและปรับใช้โมเดลสำหรับแอปพลิเคชันของญี่ปุ่นในอุตสาหกรรมต่าง ๆ ได้อย่างง่ายดาย”

เช่น บริษัท AI ของญี่ปุ่น- Preferred Networks ใช้แบบจำลองดังกล่าวเพื่อพัฒนาแบบจำลองเฉพาะด้านการดูแลสุขภาพที่ได้รับการฝึกอบรมจากคลังข้อมูลทางการแพทย์ของญี่ปุ่นที่เรียกว่า Llama3-Preferred-MedSwallow-70B ซึ่งได้คะแนนสูงสุดในการสอบระดับชาติสำหรับแพทย์ของญี่ปุ่น

โรงพยาบาล Chang Gung Memorial Hospital (CGMH) หนึ่งในโรงพยาบาลชั้นนำในไต้หวัน กำลังสร้างบริการการอนุมาน AI (AIIS – AI Inference Service) แบบกำหนดเอง เพื่อรวมแอปพลิเคชัน LLM ทั้งหมดไว้ภายในระบบโรงพยาบาล การใช้ Llama 3-Taiwan 70B กำลังปรับปรุงประสิทธิภาพของเจ้าหน้าที่ทางการแพทย์แนวหน้าด้วยภาษาทางการแพทย์ที่ละเอียดยิ่งขึ้นซึ่งผู้ป่วยสามารถเข้าใจได้

“ด้วยการให้คำแนะนำที่เหมาะสมตามบริบททันที แอปพลิเคชัน AI ที่สร้างขึ้นด้วย LLM ในภาษาท้องถิ่น จะช่วยปรับปรุงขั้นตอนการทำงานและทำหน้าที่เป็นเครื่องมือการเรียนรู้อย่างต่อเนื่องเพื่อสนับสนุนการพัฒนาเจ้าหน้าที่และปรับปรุงคุณภาพการดูแลผู้ป่วย” Dr. Changfu Kuo ผู้อำนวยการศูนย์ กล่าว สำหรับปัญญาประดิษฐ์ทางการแพทย์ที่ CGMH สาขา Linko “NVIDIA NIM กำลังทำให้การพัฒนาแอปพลิเคชันเหล่านี้ง่ายขึ้น ช่วยให้เข้าถึงและปรับใช้โมเดลที่ได้รับการฝึกอบรมในภาษาภูมิภาคโดยใช้ความเชี่ยวชาญด้านวิศวกรรมเพียงเล็กน้อย”

Pegatron ผู้ผลิตอุปกรณ์อิเล็กทรอนิกส์ในไต้หวัน จะนำไมโครเซอร์วิส Llama 3-Taiwan 70B NIM มาใช้สำหรับการใช้งานภายในและภายนอก โดยได้ผสานรวมเข้ากับระบบ PEGAAi Agentic AI เพื่อทำให้กระบวนการต่าง ๆ เป็นอัตโนมัติ ช่วยเพิ่มประสิทธิภาพในการผลิตและการดำเนินงาน

Llama-3-Taiwan 70B NIM ยังถูกใช้โดยผู้ผลิตปิโตรเคมีระดับโลกอีกด้วย

Chang Chun Group บริษัทผลิตแผง PCB ชั้นนำของโลก Unimicron บริษัทสื่อที่เน้นเทคโนโลยี TechOrange บริษัทผู้ให้บริการตามสัญญาออนไลน์ LegalSign.ai และ APMIC สตาร์ทอัพด้าน AI แบบสร้างสรรค์ บริษัทเหล่านี้ยังร่วมมือกันในรูปแบบเปิดอีกด้วย

การสร้างโมเดลองค์กรแบบกำหนดเองด้วย NVIDIA AI Foundry

แม้ว่าโมเดล AI ระดับภูมิภาคสามารถให้การตอบสนองตามวัฒนธรรมที่เหมาะสมและเฉพาะเจาะจงได้ แต่องค์กรต่างๆ ยังคงจำเป็นต้องปรับแต่งโมเดลเหล่านี้ให้เหมาะกับกระบวนการทางธุรกิจและความเชี่ยวชาญด้านโดเมนของตน

NVIDIA AI Foundry เป็นแพลตฟอร์มและบริการที่รวมโมเดลขั้นพื้นฐานยอดนิยมอย่าง NVIDIA NeMo เพื่อการปรับแต่งแบบละเอียด และความสามารถเฉพาะด้านบน NVIDIA DGX Cloud ช่วยให้นักพัฒนาได้รับโซลูชันแบบฟูลสแตกสำหรับการสร้างแบบจำลองพื้นฐานที่กำหนดเองที่บรรจุเป็นไมโครเซอร์วิส NIM

นอกจากนี้ นักพัฒนาที่ใช้ NVIDIA AI Foundry ยังสามารถเข้าถึง NVIDIA AI Enterprise แพลตฟอร์มซอฟต์แวร์ที่ให้ความปลอดภัย เสถียรภาพ และการสนับสนุน การใช้งานการผลิต

NVIDIA AI Foundry มอบเครื่องมือที่จำเป็นแก่นักพัฒนาเพื่อสร้างและปรับใช้ไมโครเซอร์วิส NIM ภาษาระดับภูมิภาคที่กำหนดเองของตนเองได้รวดเร็วและง่ายดายยิ่งขึ้น เพื่อขับเคลื่อนแอปพลิเคชัน AI รับประกันผลลัพธ์ที่เหมาะสมทางวัฒนธรรมและภาษาสำหรับผู้ใช้