Microsoft กำลังนำรุ่นใหม่ที่ทรงพลังของ OpenAi มาสู่พีซีในท้องถิ่น บริษัท ประกาศเมื่อวันอังคารที่ผ่านมาในการผลักดันครั้งสำคัญในระบบปัญญาประดิษฐ์ในอุปกรณ์ การเคลื่อนไหวนี้ใช้ประโยชน์จากแพลตฟอร์มใหม่ Azure ai Foundry ท้องถิ่น การสมัครสมาชิก
ความคิดริเริ่มนี้มีจุดมุ่งหมายเพื่อสร้างแอปพลิเคชัน AI ส่วนตัวตอบสนองและรักษาความปลอดภัยโดยการประมวลผลข้อมูลในเครื่องแทนที่จะเป็นคลาวด์ มันเป็นขั้นตอนที่สำคัญในการสร้างเครื่องมือ AI ที่มีความซับซ้อนอย่างกว้างขวางและวางตำแหน่งหน้าต่างเป็นแพลตฟอร์มสำคัญสำหรับการพัฒนา AI คลื่นลูกต่อไปซึ่งเป็นอิสระจากคลาวด์
การประกาศที่สร้างขึ้นโดย CVP ของ Microsoft และผลิตภัณฑ์แพลตฟอร์ม AI src=”https://winbuzzer.com/wp-content/uploads/2024/11/azure-ai-foundry.-official.jpg”>
Azure Ai Foundry Local Local สำหรับการยึดครองของ A href=”https://learn.microsoft.com/en-us/azure/ai-foundry/foundry-local/what-is-foundry-local”target=”_ blank”> แพลตฟอร์มการอนุมานแบบออนดีดิสสำหรับ Windows และ MacOS มันช่วยให้โมเดล AI ขั้นสูงสามารถทำงานโดยตรงบนฮาร์ดแวร์ผู้ใช้ซึ่งเป็นการออกเดินทางที่สำคัญจากรุ่นคลาวด์เป็นศูนย์กลางที่ครอบงำภูมิทัศน์ AI ปัจจุบันแพลตฟอร์มมีอยู่ในตัวอย่างสาธารณะทำให้นักพัฒนาสามารถเริ่มทดลองได้ทันที
ข้อได้เปรียบที่สำคัญของแพลตฟอร์มคือความสามารถในการทำงานออฟไลน์ การลดลง onnx runtime เพื่อโดยอัตโนมัติ เพิ่มประสิทธิภาพการทำงานของโมเดลในฮาร์ดแวร์ที่หลากหลายรวมถึง CPU, GPU และ NPUs จากผู้ขายเช่น Intel, Amd, Nvidia และ Qualcomm นอกจากนี้ยัง จัดให้มี api ที่เข้ากันได้ ความสามารถ “ Foundry Local นำโมเดลเหล่านี้มาสู่ Windows-เปิดใช้งานความหน่วงความหน่วงต่ำปลอดภัยการอนุมานแบบออฟไลน์ข้ามซีพียู GPU และ NPUs สิ่งนี้มาพร้อมกับการปรับแต่งและการสนับสนุนการปรับแต่งอย่างสมบูรณ์” ตำแหน่งนี้โรงหล่อท้องถิ่นไม่เพียง แต่เป็นสภาพแวดล้อมรันไทม์ แต่เป็นชุดเครื่องมือการพัฒนาที่เต็มเปี่ยมสำหรับ AI ในอุปกรณ์
สมองของการดำเนินการ: รุ่น GPT-OSS ของ OpenAI
Foundry ท้องถิ่นจะสนับสนุน OpenAI ของ OpenAI รุ่น Tthe มีให้ภายใต้ใบอนุญาต Apache 2.0 ที่ได้รับอนุญาต สนับสนุนการใช้และการปรับเปลี่ยนที่มีการออกแบบมาอย่างแพร่หลาย เป็นรูปแบบการใช้เหตุผลที่ใหญ่กว่าและทรงพลังกว่าด้วย ประสิทธิภาพเทียบเท่ากับระบบคลาส GPT-4 ทั้งสองถูกสร้างขึ้นบนสถาปัตยกรรมผสมผสานที่มีประสิทธิภาพ (MOE) ซึ่งเปิดใช้งานเพียงเศษเสี้ยวของพารามิเตอร์ของโมเดลสำหรับงานใด ๆ ที่กำหนดประสิทธิภาพสูงสุดในขณะที่ลดต้นทุนการคำนวณ
การย้ายครั้งนี้จะกล่าวถึงช่องว่างที่ยาวนานในพอร์ตโฟลิโอของ OpenAI Casey Dvorak ผู้จัดการโครงการวิจัยที่ Openai อธิบายเหตุผล:“ เนื่องจากไม่มี [การแข่งขัน] แบบเปิดจาก OpenAI เราจึงต้องการเสียบช่องว่างนั้นและอนุญาตให้พวกเขาใช้เทคโนโลยีของเราทั่วกระดาน”สิ่งนี้ช่วยให้ บริษัท สามารถแข่งขันสำหรับนักพัฒนาที่ต้องการโมเดลที่ดำเนินการในพื้นที่เพื่อความปลอดภัยค่าใช้จ่ายหรือเหตุผลในการปรับแต่ง
ข้อกำหนดทางเทคนิคที่สำคัญคือ’ความสามัคคี’รูปแบบการแชทใหม่และบังคับสำหรับ `gpt-oss` เทมเพลตนี้จัดโครงสร้างผลลัพธ์ของโมเดลเป็นช่องทางแยกต่างหากเพื่อการใช้เหตุผล (`การวิเคราะห์’) การโทรเครื่องมือ (` ความเห็น’) และคำตอบสุดท้ายทำให้นักพัฒนาควบคุมการควบคุมเวิร์กโฟลว์ตัวแทนที่โปร่งใสมากขึ้น
พันธมิตรเชิงกลยุทธ์ ครอบคลุมระบบนิเวศเทคโนโลยี ทั่วทั้งอุตสาหกรรมนี้ได้เน้นย้ำถึงความสำคัญของการกลับมาของ Openai ของชุมชนโอเพนซอร์ซและความทะเยอทะยานในการกำหนดมาตรฐานใหม่สำหรับการพัฒนา AI
พันธมิตรที่สำคัญอื่น ๆ ได้แก่ Qualcomm ซึ่งประกาศว่ารุ่น `GPT-OSS-20B` การเปิดใช้งานฮาร์ดแวร์นี้มีความสำคัญอย่างยิ่งสำหรับการนำ AI ไปสู่แล็ปท็อปประสิทธิภาพสูงแม้ว่าในปัจจุบันจะต้องใช้ RAM 24GB ที่หนักหน่วงวางไว้อย่างแน่นหนาในหมวดหมู่ฮาร์ดแวร์ระดับนักพัฒนาในตอนนี้
พร้อมกัน ปิดความสัมพันธ์กับ Microsoft สิ่งนี้จะสร้างแบบไดนามิกของ“ การร่วมมือกัน” การขยายการเข้าถึงของ OpenAI ในขณะที่การแข่งขันคลาวด์ AI นั้นทวีความรุนแรงมากขึ้น
กลยุทธ์หลายง่ามนี้ได้รับการออกแบบมาเพื่อเรียกคืนอิทธิพลในโลกโอเพ่นซอร์ส ตามที่ระบุไว้โดย Peter Henderson ผู้ช่วยศาสตราจารย์ที่ Princeton University“ ในส่วนนี้เป็นเรื่องเกี่ยวกับการพิจารณาการครอบงำของ Openai ในระบบนิเวศการวิจัย” Openai เองก็วางกรอบการเปิดตัวในแง่ภูมิรัฐศาสตร์โดยระบุว่า“ การเข้าถึงแบบจำลองแบบเปิดกว้างที่มีความสามารถเหล่านี้ที่สร้างขึ้นในสหรัฐอเมริกาช่วยขยายราง AI ประชาธิปไตย”
โดยการสร้างแบบจำลองที่ทรงพลังเข้าถึงได้และได้รับการสนับสนุนจากระบบนิเวศที่แข็งแกร่งจากคลาวด์ไปจนถึงขอบ ความพยายามประสานงานนี้มีวัตถุประสงค์เพื่อสร้าง `GPT-OSS` และรูปแบบ Harmony เป็นมาตรฐานใหม่สำหรับการพัฒนา AI รุ่นต่อไป
พันธมิตรที่สำคัญอื่น ๆ ได้แก่ Qualcomm ซึ่งประกาศว่ารุ่น `GPT-OSS-20B` การเปิดใช้งานฮาร์ดแวร์นี้มีความสำคัญอย่างยิ่งสำหรับการนำ AI ไปสู่แล็ปท็อปประสิทธิภาพสูงแม้ว่าในปัจจุบันจะต้องใช้ RAM 24GB ที่หนักหน่วงวางไว้อย่างแน่นหนาในหมวดหมู่ฮาร์ดแวร์ระดับนักพัฒนาในตอนนี้
พร้อมกัน ปิดความสัมพันธ์กับ Microsoft สิ่งนี้จะสร้างแบบไดนามิกของ“ การร่วมมือกัน” การขยายการเข้าถึงของ OpenAI ในขณะที่การแข่งขันคลาวด์ AI นั้นทวีความรุนแรงมากขึ้น
กลยุทธ์หลายง่ามนี้ได้รับการออกแบบมาเพื่อเรียกคืนอิทธิพลในโลกโอเพ่นซอร์ส ตามที่ระบุไว้โดย Peter Henderson ผู้ช่วยศาสตราจารย์ที่ Princeton University“ ในส่วนนี้เป็นเรื่องเกี่ยวกับการพิจารณาการครอบงำของ Openai ในระบบนิเวศการวิจัย” Openai เองก็วางกรอบการเปิดตัวในแง่ภูมิรัฐศาสตร์โดยระบุว่า“ การเข้าถึงแบบจำลองแบบเปิดกว้างที่มีความสามารถเหล่านี้ที่สร้างขึ้นในสหรัฐอเมริกาช่วยขยายราง AI ประชาธิปไตย”
โดยการสร้างแบบจำลองที่ทรงพลังเข้าถึงได้และได้รับการสนับสนุนจากระบบนิเวศที่แข็งแกร่งจากคลาวด์ไปจนถึงขอบ ความพยายามประสานงานนี้มีวัตถุประสงค์เพื่อสร้าง `GPT-OSS` และรูปแบบ Harmony เป็นมาตรฐานใหม่สำหรับการพัฒนา AI รุ่นต่อไป
