ในการประชุม GTC ทาง Nvidia ได้ประกาศ เปิดตัว Nvidia NIM ซึ่งเป็นแพลตฟอร์มซอฟต์แวร์ใหม่ที่ออกแบบมาเพื่อปรับปรุงการใช้งานโมเดล AI แบบกำหนดเองและที่ผ่านการฝึกอบรมล่วงหน้าในสภาพแวดล้อมการผลิต NIM ใช้งานซอฟต์แวร์ที่ Nvidia ทำเกี่ยวกับการอนุมานและปรับแต่งโมเดลให้เหมาะสม และทำให้เข้าถึงได้ง่ายโดยการรวมโมเดลที่กำหนดเข้ากับกลไกการอนุมานที่ได้รับการปรับปรุงแล้วจึงบรรจุลงในคอนเทนเนอร์ ทำให้สามารถเข้าถึงได้ในรูปแบบไมโครเซอร์วิส
Nvidia เปิดตัว NIM เพื่อให้ปรับใช้ AI ได้อย่างราบรื่นยิ่งขึ้น
ในการประชุม GTC วันนี้ Nvidia ได้เปิดตัว NIM ซึ่งเป็นแพลตฟอร์มซอฟต์แวร์ปฏิวัติวงการที่ออกแบบมาเพื่อผสานรวมโมเดล AI แบบกำหนดเองและที่ผ่านการฝึกอบรมล่วงหน้าเข้ากับสภาพแวดล้อมการผลิตได้อย่างราบรื่น นอกเหนือจากการประกาศในวันนี้ที่การประชุม GTC ของ Nvidia แล้ว NIM ยังใช้ประโยชน์จากความเชี่ยวชาญของ Nvidia ในการอนุมานและเพิ่มประสิทธิภาพโมเดล AI โดยนำเสนอแนวทางที่มีความคล่องตัวสำหรับนักพัฒนา
ด้วยการผสานโมเดล AI เข้ากับกลไกการอนุมานที่ได้รับการปรับปรุงและห่อหุ้มไว้ในคอนเทนเนอร์ที่สามารถเข้าถึงได้ในรูปแบบไมโครเซอร์วิส NIM จึงสามารถลดเวลาการปรับใช้ลงได้อย่างมาก ตามรายงานของ TechCrunch สิ่งที่มักจะต้องใช้เวลาหลายเดือนสามารถบรรลุผลได้อย่าง รวดเร็วโดยไม่จำเป็นต้องมีความเชี่ยวชาญด้าน AI ภายในองค์กร ที่กว้างขวาง
แพลตฟอร์มที่เป็นนวัตกรรมใหม่นี้รองรับโมเดลจากหน่วยงานที่มีชื่อเสียง เช่น NVIDIA, A121 และ Getty Images ควบคู่ไปกับโมเดลแบบเปิดจากยักษ์ใหญ่ด้านเทคโนโลยีอย่าง Google และ Meta ความร่วมมือของ Nvidia กับ Amazon, Google และ Microsoft มีเป้าหมายที่จะรวมไมโครเซอร์วิสของ NIM เข้ากับบริการคลาวด์หลัก ๆ เพื่อเพิ่มการเข้าถึงสำหรับนักพัฒนาทั่วทั้งกระดาน
หัวใจของ NIM คือ Triton Inference Server ควบคู่ไปกับ TensorRT และ TensorRT-LLM ซึ่งตอกย้ำความมุ่งมั่นของ Nvidia ในการจัดหารากฐานที่แข็งแกร่งสำหรับแอปพลิเคชัน AI แพลตฟอร์มดังกล่าวยังมีไมโครเซอร์วิสเฉพาะทาง เช่น Riva สำหรับการปรับคำพูดและการแปล, cuOpt สำหรับการเพิ่มประสิทธิภาพการกำหนดเส้นทาง และโมเดล Earth-2 สำหรับการจำลองสภาพอากาศและสภาพอากาศ
NIM ถือเป็นข้อพิสูจน์ถึงวิสัยทัศน์ของ Nvidia ในการเปลี่ยนองค์กรต่างๆ ให้เป็นองค์กรที่ขับเคลื่อนด้วย AI พร้อมด้วยชุดไมโครเซอร์วิส AI แบบคอนเทนเนอร์ ด้วยการสนับสนุนจากยักษ์ใหญ่ในอุตสาหกรรมและระบบนิเวศของพันธมิตร NIM ของ Nvidia พร้อมที่จะปฏิวัติวิธีการปรับใช้และใช้งานโมเดล AI ในภาคส่วนต่างๆ
บทความโดย : ufa877