Qualcomm dan Openai mengumumkan langkah besar untuk AI di perangkat pada hari Selasa, mencerminkan dorongan industri yang lebih luas menuju pemrosesan di tepi. Model `GPT-OSS-20B` baru dari OpenAI sekarang dapat berjalan secara lokal di PC kelas atas dengan chip Snapdragon. Ini adalah pertama kalinya salah satu model penalaran canggih Openai telah tersedia untuk penggunaan di perangkat.

Tujuannya adalah untuk menciptakan pengalaman AI yang lebih cepat dan lebih pribadi dengan menangani data secara lokal. Untuk saat ini, teknologi ini ditujukan untuk pengembang yang menggunakan PC dengan 24GB RAM, bukan smartpone setiap hari . Namun, ini menandai tonggak penting, membuka jalan bagi agen AI pribadi di masa depan yang lebih responsif dan aman.

tonggak untuk AI di perangkat, dengan Can Can

Dalam langkah yang signifikan untuk industri AI, Qualcomm mengungkapkan bahwa Openai yang baru dilepaskan `gpt` gpt `gpt` gpt `gpt` gpt `gptes baru yang baru dilepaskan` gpt `gpt` gpt `gpt` gpt `gpt baru yang baru dilepaskan Openai` gpt `gpt` gpt `gpt` gpt baru yang baru dilepaskan bahwa Openai `gpt` gpt `gpt` gpt `gpt` gpt `gpt baru itu href=”https://www.qualcomm.com/news/onq/2025/08/openai-model-on-on–snapdragon”target=”_ blank”> Lakukan inferensi langsung pada perangkat yang ditenagai oleh prosesor snapdragon flag-nya . Pembuat chip memuji pengembangan sebagai”tonggak utama”dan”titik balik,”membawa kemampuan penalaran rantai yang canggih dan berantai dari cloud dan ke perangkat keras lokal untuk pertama kalinya. Hal ini memungkinkan tugas-tugas yang kompleks dan multi-langkah diproses secara lokal, langkah kritis menuju menciptakan asisten AI yang benar-benar pribadi.

poundger> poundger> poundger> poundger> poundger> poundger> poundger> poundger> poundger> poundger> poundger/loVion-devices. Akses awal ke model. Perusahaan melakukan pengujian integrasi yang luas, memanfaatkan kepemilikannya Qualcomm ai engine dan “href=”https://www.qualcomm.com/developer/artificial-intelligence”target=”_ blank”> Qualcomm ai stack Untuk mengoptimalkan model 20-biliar-parameter untuk eksekusi di-perbandingan yang efisien. Pekerjaan ini menunjukkan apa yang disebut Qualcomm sebagai”kedewasaan ekosistem AI,”di mana inovasi open-source dapat dengan cepat dimanfaatkan oleh mitra perangkat keras.

Pengumuman ini adalah bagian penting dari Pivot Strategis yang lebih luas untuk 10 model yang lebih besar, 10 Model-GT. komunitas open-source dan counter rival. Dengan membuat model tersedia di bawah lisensi Apache 2.0 permisif, OpenAI mendorong adopsi luas dan memberikan pengembang dengan alat yang kuat dan transparan.

cetakan halus: pc snapdragon, bukan smartphone (untuk saat ini)

Sementara berita yang menghasilkan excitement, untuk saat ini dikendalikan dengan kaveriasi yang diketahui dengan kaveriasi yang diketahui dengan berita, saat ini menghasilkan berita yang diketahui dengan kaveriasi. Ini bukan untuk smartphone Anda saat ini. Seperti yang dikatakan oleh salah satu laporan, jangan menahan napas agar ini berjalan pada chip ponsel Anda. Integrasi ini secara khusus menargetkan perangkat keras tingkat pengembang, terutama PC bertenaga Snapdragon dan kit pengembangan khusus. Fokus ini ditujukan tepat pada peneliti AI dan pengembang perusahaan yang ingin membangun aplikasi khusus pada perangkat keras lokal yang kuat, daripada rata-rata pengguna Android.

Hambatan utama adalah persyaratan sumber daya yang besar dari model. Menjalankan `GPT-OSS-20B` secara lokal melalui integrasi Qualcomm menuntut RAM 24GB substansial, spesifikasi yang jauh di luar kapasitas perangkat seluler konsumen saat ini, yang biasanya berada di atas 12GB atau 16GB. Prasyarat perangkat keras ini dengan kuat memposisikan teknologi di ranah PC kelas atas dan workstation profesional untuk saat ini, terutama yang menjalankan chipset elit Snapdragon X. Dalam pengumuman resminya, perusahaan menyatakan,”Kami percaya bahwa kemampuan AI di perangkat akan meningkat dengan cepat, membuka pintu bagi pengalaman agen swasta, latensi rendah, yang dipersonalisasi.”Ini menunjukkan peta jalan jangka panjang di mana, seperti

Mengapa ada masalah: privasi, kecepatan, dan personalisasi

Dorongan strategis untuk AI di perangkat, sebuah visi yang telah lama diperjuangkan, didorong oleh trio manfaat pengguna yang jelas dan menarik: privasi, kecepatan, dan personalisasi. Memproses data secara fundamental mengubah persamaan keamanan dengan menghilangkan kebutuhan untuk mengirim informasi sensitif ke cloud. Ini berarti tugas dapat diselesaikan secara offline, tanpa koneksi internet, dan data pengguna tetap aman pada perangkat, keuntungan kritis untuk aplikasi pribadi dan perusahaan di mana kedaulatan data adalah yang terpenting.

Kekuatan pemrosesan lokal ini juga secara langsung menangani masalah latensi. Dengan menghapus perjalanan pulang pergi ke pusat data yang jauh, interaksi menjadi lebih cepat dan lebih responsif. Seperti yang dicatat oleh satu laporan, ini bisa berarti tanggapan yang lebih cepat dan tidak ada penundaan jika koneksi internet cukup baik. Ini sangat penting untuk menciptakan pengalaman percakapan yang mulus dan real-time yang diharapkan dari asisten AI canggih. Kemampuan untuk melakukan tugas penalaran yang kompleks secara instan, tanpa lag, adalah landasan membuat AI merasa benar-benar terintegrasi dan bermanfaat.

Pada akhirnya, manfaat ini berkumpul untuk memungkinkan agen AI yang sangat personal yang dapat melengkapi solusi cloud. Agen di perangkat dapat mengakses dan beralasan dengan aman melalui email pribadi, kalender, dan kontak untuk memberikan bantuan kontekstual, semua tanpa data yang pernah meninggalkan perangkat. Untuk mewujudkannya bagi pengembang, Qualcomm menyoroti bahwa model dapat diakses melalui platform populer.

Pengembang dapat mengunduh model dari memeluk wajah memeluk dan menggunakan kerangka kerja seperti ollama , kerangka kerja servis yang ringan, untuk menjalankan `gpt-20b` yang kuat secara langsung dan mengeksplorasi kemampuan perbangannya.

Tonggak di perangkat ini secara intrinsik terkait dengan pelukan baru dunia open-source. The `gpt-oss` release is a direct response to years of criticism over its closed-off approach and a strategic move to counter rivals like Meta and Chinese tech firms.

OpenAI also framed the release in geopolitical terms, stating that “broad access to these capable open-weights models created in the US helps expand democratic AI rails,”positioning its work as a pillar for US influence in global AI development.

Untuk memastikan konsistensi, Openai juga meluncurkan’Harmony,’format obrolan wajib untuk `GPT-OSS`. Ini menyusun percakapan menjadi saluran yang berbeda untuk penalaran dan penggunaan alat, memberikan pengembang kontrol granular. Sentimen ini digaungkan oleh para pemimpin masyarakat, dengan Nathan Lambert dari Institut Allen untuk AI memuji langkah tersebut, dengan mengatakan,”Ini hal yang sangat baik untuk komunitas terbuka.”

Categories: IT Info