Microsoft membawa model `GPT-OSS` baru yang kuat dari Openai ke PC lokal, perusahaan mengumumkan Selasa, dalam dorongan besar ke dalam kecerdasan buatan di perangkat. Langkah ini memanfaatkan platform baru, AIure foundry local , untuk memungkinkan pengembang untuk langsung menjalankan AI ON AI AI, AI AI Foundry , untuk memungkinkan pengembang untuk menjalankan AI ON AI AIRE AI, AI FOUTRY AI LOCAL , untuk memungkinkan pengembang untuk langsung menjalankan AI ON AI ON AI AI, AI AI LOCAL , untuk memungkinkan pengembang untuk meng-lount _ _ blank”> ai foundry AI , untuk memungkinkan pengembang untuk menjalankan lanjutan ON AI ONE AI, AI FOUNTRY LOCAL Langganan.
Inisiatif ini bertujuan untuk membuat aplikasi AI yang lebih pribadi, responsif, dan aman dengan memproses data secara lokal alih-alih di cloud. Ini menandai langkah yang signifikan dalam membuat alat AI yang canggih tersedia secara luas dan memposisikan Windows sebagai platform utama untuk gelombang pengembangan AI berikutnya, terlepas dari cloud.
Pengumuman, yang dibuat oleh CVP Microsoft dan kepala produk platform AI, Asha Sharma, adalah pengembangan terbaru dalam berbagai model di seluruh industri. src=”https://winbuzzer.com/wp-content/uploads/2024/11/Azure-AI-Foundry.-official.jpg”>
Azure AI Foundry Local for On-Device Inference
At the core of Microsoft’s strategy is Azure AI Foundry Local, a new platform inferensi on-device untuk windows dan macOS . Ini memungkinkan model AI canggih untuk berjalan langsung pada perangkat keras pengguna, keberangkatan yang signifikan dari model cloud-centric yang telah mendominasi lanskap AI. Platform saat ini tersedia dalam pratinjau publik, yang memungkinkan pengembang untuk mulai bereksperimen segera.
Keuntungan utama platform adalah kemampuannya untuk berfungsi secara offline, powerded Mengoptimalkan kinerja model di berbagai perangkat keras, termasuk CPU, GPU, dan NPU dari penjual seperti Intel, AMD, NVIDIA, dan QUIFOMM Plon-pojove yang kompatibel, Plonik, dan SDK yang kompatibel dengan Openai, dan SDK yang mudah dikompativan, dan SDK. kemampuan.”Foundry Local membawa model-model ini ke Windows-memungkinkan inferensi latensi rendah, aman, offline di CPU, GPU, dan NPU. Ini hadir dengan dukungan penyempurnaan dan orkestrasi penuh.”Posisi ini Foundry Lokal bukan hanya sebagai lingkungan runtime tetapi juga sebagai alat pengembangan penuh untuk AI on-Device.
Otak operasi: Model GPT-OSS Openai
Foundry Local akan mendukung model Openai yang baru dirilis `GPT-20B. TThe models are available under a permissive Apache 2.0 license, encouraging widespread adoption and modification.
The smaller `gpt-oss-20b` is specifically designed for on-device applications, while the `GPT-OSS-20B` adalah model penalaran yang lebih besar, lebih kuat dengan Kinerja yang sebanding dengan sistem kelas GPT-4 . Keduanya dibangun di atas arsitektur campuran yang efisien (MOE), yang hanya mengaktifkan sebagian kecil dari parameter model untuk setiap tugas yang diberikan, memaksimalkan kinerja sambil meminimalkan biaya komputasi.
Langkah ini membahas kesenjangan lama dalam portofolio Openai. Casey Dvorak, seorang manajer program penelitian di Openai, menjelaskan alasan tersebut:”Karena tidak ada model terbuka [kompetitif] dari Openai, kami ingin menyumbat celah itu dan benar-benar memungkinkan mereka untuk menggunakan teknologi kami di seluruh papan.”Hal ini memungkinkan perusahaan untuk bersaing untuk pengembang yang membutuhkan model yang dijalankan secara lokal untuk alasan keamanan, biaya, atau kustomisasi.
Persyaratan teknis penting adalah’harmoni,’format obrolan baru dan wajib untuk `GPT-OSS`. Template ini menyusun output model menjadi saluran terpisah untuk penalaran (`analisis`), panggilan alat (` komentar`), dan jawaban akhir, memberikan pengembang yang lebih transparan kontrol atas alur kerja agen. mencakup ekosistem teknologi. Pelukan industri ini menggarisbawahi pentingnya kembalinya Openai ke komunitas open-source dan ambisinya untuk menetapkan standar baru untuk pengembangan AI.
Mitra besar lainnya termasuk Qualcomm, yang mengumumkan bahwa model `GPT-OSS-20B` dapat berjalan secara lokal pada PC yang bertenaga snapdragon. Pemberdayaan perangkat keras ini sangat penting untuk membawa AI di atas-perangkat ke laptop berkinerja tinggi, meskipun saat ini membutuhkan RAM 24GB yang besar, menempatkannya dengan kuat dalam kategori perangkat keras pengembang untuk saat ini.
Distribusi secara bersamaan, AWS menunjukkan kemitraan landmark untuk membawa `GPT` “ “ “ “ “ “ “ “ Berikat dengan Microsoft. Ini menciptakan dinamika”koopetisi,”memperluas jangkauan Openai sambil mengintensifkan persaingan AI cloud.
Strategi multi-cabang ini tampaknya dirancang untuk mendapatkan kembali pengaruh di dunia open-source. Seperti dicatat oleh Peter Henderson, asisten profesor di Princeton University,”sebagian, ini adalah tentang menegaskan kembali dominasi Openai dalam ekosistem penelitian.”Openai sendiri membingkai rilis dalam istilah geopolitik, yang menyatakan bahwa”akses luas ke model berat terbuka yang mampu yang dibuat di AS membantu memperluas rel demokratis AI.”
Dengan membuat modelnya kuat, dapat diakses, dan didukung oleh ekosistem yang kuat dari awan ke edge, Openai membuat kasus yang menarik untuk platformnya. Upaya terkoordinasi ini bertujuan untuk membangun `gpt-oss` dan format harmoni sebagai standar baru untuk generasi pengembangan AI berikutnya.