Microsoft membawa model GPT-OSS OpenAI ke Windows dengan platform tempatan Azure AI Foundry baru

Microsoft membawa model’GPT-OSS` baru yang kuat ke PC tempatan, syarikat itu mengumumkan pada hari Selasa, dalam usaha utama ke dalam kecerdasan buatan pada peranti. Langkah ini memanfaatkan platform baru, azure ai foundry Inisiatif bertujuan untuk mewujudkan aplikasi AI yang lebih peribadi, responsif, dan selamat dengan memproses data secara tempatan dan bukannya di awan. Ia menandakan satu langkah penting dalam membuat alat AI yang canggih yang tersedia secara meluas dan meletakkan tingkap sebagai platform utama untuk gelombang pembangunan AI yang seterusnya, bebas dari awan. src=”https://winbuzzer.com/wp-content/uploads/2024/11/azure-ai-foundry.-official.jpg”>

href=”https://learn.microsoft.com/en-us/azure/ai-foundry/foundry-local”target=”_ blank”> platform inferensi on-device untuk Windows dan macOS . Ia membolehkan model AI maju berjalan secara langsung pada perkakasan pengguna, pemergian yang ketara dari model awan-centric yang telah menguasai landskap AI. Platform ini kini boleh didapati dalam pratonton awam, yang membolehkan pemaju mula bereksperimen dengan serta-merta.

Kelebihan utama platform adalah keupayaannya untuk berfungsi di luar talian, Mengoptimumkan prestasi model merentasi pelbagai perkakasan, termasuk CPU, GPU, dan NPU dari vendor seperti Intel, AMD, NVIDIA, dan qualComm Menyediakan API yang serasi terbuka, CLI, dan SDK untuk integrasi yang mudah, keupayaan.”Foundry Local membawa model-model ini ke Windows-enabling latency rendah, selamat, kesimpulan luar talian di seluruh CPU, GPU, dan NPU. Ini dilengkapi dengan sokongan penalaan dan orkestra penuh.”Posisi ini menonjolkan tempatan bukan hanya sebagai persekitaran runtime tetapi sebagai toolkit pembangunan sepenuhnya untuk peranti AI. Model-model yang boleh didapati di bawah lesen Apache 2.0 permisif, Menggalakkan penggunaan dan pengubahsuaian yang meluas. `gpt-oss-120b` adalah model penalaran yang lebih besar dan lebih kuat dengan Prestasi yang setanding dengan sistem kelas GPT-4 . Kedua-duanya dibina di atas senibina campuran-ekspertasi (MOE) yang cekap, yang mengaktifkan hanya sebahagian kecil daripada parameter model untuk sebarang tugas yang diberikan, memaksimumkan prestasi sambil meminimumkan kos pengiraan. Casey Dvorak, pengurus program penyelidikan di OpenAI, menjelaskan rasionalnya:”Kerana tidak ada model terbuka [kompetitif] dari Openai, kami ingin memasangkan jurang itu dan sebenarnya membolehkan mereka menggunakan teknologi kami di seluruh papan.”Ini membolehkan syarikat bersaing untuk pemaju yang memerlukan model yang dikendalikan oleh tempatan untuk alasan keselamatan, kos, atau penyesuaian.

Keperluan teknikal kritikal adalah’keharmonian,’format sembang baru dan wajib untuk `GPT-OSS`. Templat ini membentuk output model ke dalam saluran berasingan untuk penalaran (`analisis`), panggilan alat (` ulasan`), dan jawapan akhir, memberikan pemaju lebih banyak kawalan telus ke atas aliran kerja yang agur. merangkumi ekosistem teknologi. Perlindungan di seluruh industri ini menggariskan kepentingan pulangan OpenAI kepada komuniti sumber terbuka dan cita-cita untuk menetapkan piawaian baru untuk pembangunan AI. Pengaktifan perkakasan ini adalah penting untuk membawa peranti AI ke komputer riba yang berprestasi tinggi, walaupun pada masa ini memerlukan 24GB RAM yang besar, meletakkannya dengan tegas dalam kategori perkakasan gred untuk sekarang. di luar hubungannya dengan Microsoft. Ini mewujudkan dinamik”Co-Opetition,”memperluaskan jangkauan OpenAI sambil meningkatkan persaingan AI Cloud.

Strategi pelbagai gabungan ini direka untuk menuntut semula pengaruh di dunia sumber terbuka. Seperti yang dinyatakan oleh Peter Henderson, seorang penolong profesor di Princeton University,”sebahagiannya, ini adalah mengenai penguasaan Openai dalam ekosistem penyelidikan.”Openai sendiri membingkai pelepasan dalam istilah geopolitik, menyatakan bahawa”akses yang luas kepada model-model terbuka yang boleh dibuat di AS membantu mengembangkan rel AI demokratik.”Usaha yang diselaraskan ini bertujuan untuk mewujudkan `GPT-OSS` dan format keharmonian sebagai standard baru untuk pembangunan AI generasi akan datang.