AMD mengumumkan pada hari Selasa bahwa perangkat keras terbarunya mendukung model `GPT-OSS` baru OpenAi. Dukungannya adalah untuk produk konsumen terbarunya, seperti kartu Ryzen AI dan kartu grafis Radeon. Dalam kunci pertama, AMD mengatakan chip Ryzen AI Max+ 395 dapat menjalankan model parameter 120 miliar besar pada PC lokal.
Ini membawa AI tingkat atas keluar dari cloud dan ke komputer rumah. Perubahan memungkinkan aplikasi AI yang lebih cepat, lebih pribadi, dan offline. Pengembang dapat menggunakan alat LM Studio untuk menjalankan model hari ini, membuat AI yang kuat lebih mudah diakses.
dan mengklaim konsumen terlebih dahulu untuk ai-perangkat ai
Dalam suatu langkah yang mendefinisikan kembali AI di-perangkat, AI, AI
Ini adalah tonggak penting. Ini menggeser beban kerja AI kelas data dari cloud ke desktop atau laptop. Menurut AMD, sistem ini mencapai kinerja yang sangat dapat digunakan hingga 30 token per detik, menjadikan AI lokal yang kompleks sebagai kenyataan praktis bagi pengembang dan peneliti.
[Konten Tertanam]
Persyaratan teknisnya curam tetapi jitu. Model `GPT-OSS-20B` membutuhkan sekitar 61GB VRAM. Ini cocok dalam 96GB memori grafis khusus yang tersedia di platform Ryzen AI Max+ 395 khusus, kemampuan clear untuk pengembang untuk pengembang. Alat utama adalah LM Studio, aplikasi gratis yang menyederhanakan pengunduhan dan menjalankan LLMS. Pengguna juga perlu menginstal Perangkat lunak AMD: driver edisi adrenalin, PROSIOS, PROSIS, PROSITIO, PROSITIO, PROSITIO, PROSITIO, PROSITIO, PROSITIO, PROSITIO, PROSITIO, PROSIOS, PROSIOS, PROSIOS, PROSIOS, PROSIOS, PROSIOS, PROSIOS, PROSIOS, PROSIOS DI DALAM PROSIS 25.1 atau lebih tinggi untuk membuka fitur yang diperlukan. Melepas semua lapisan komputasi ke GPU, dan kemudian memuat model ke dalam memori. Sementara model 120B mungkin membutuhkan waktu untuk memuat karena ukurannya, hasilnya adalah mesin penalaran yang kuat yang berjalan sepenuhnya secara lokal.
Peluncuran terkoordinasi untuk membangun standar terbuka baru
Pengumuman AMD tidak terjadi dalam kekosongan. Itu adalah bagian penting dari acara di seluruh industri yang dirancang dengan cermat yang dirancang untuk membangun `GPT-OSS` dan harmoni sebagai standar baru. Microsoft meluncurkan platform lokal Windows AI Foundry dan Foundry untuk menjalankan model pada Windows dan MacOS.
Dalam langkah mengejutkan”Co-opetition,”AWS mengumumkan akan menawarkan model-model di Amazon Bedrock dan Sagemaker Services, memberikan Openai saluran distribusi utama di luar Azure Microsoft. Qualcomm juga bergabung, mengaktifkan dukungan di perangkat untuk PC bertenaga Snapdragon.
Dukungan luas ini menandakan dorongan strategis oleh OpenAi untuk merebut kembali pengaruh di komunitas open-source. Analis menyarankan bahwa”sebagian, ini adalah tentang menegaskan kembali dominasi Openai dalam ekosistem penelitian.”Sentimen ini digaungkan dalam pembingkaian rilis Openai sendiri, dengan perusahaan yang menyatakan bahwa”akses luas ke model berat terbuka yang mampu ini yang dibuat di AS membantu memperluas rel demokratis AI.”
Pindah posisi Openai untuk bersaing langsung dengan saingan open-soalce seperti Meta. Dengan memberikan model yang kuat, mudah diakses, dan didukung secara luas, perusahaan membuat kasus yang menarik untuk ekosistemnya. Seperti yang dicatat oleh Asha Sharma dari Microsoft,”Untuk pertama kalinya, Anda dapat menjalankan model OpenAI seperti GPT-OSS-12B pada satu GPU perusahaan-atau menjalankan GPT-OSS-20B secara lokal.”Menyoroti realitas AI hybrid baru
