Ang Qualcomm at OpenAI ay inihayag ng isang pangunahing hakbang para sa on-device AI noong Martes, na sumasalamin sa isang mas malawak na pagtulak sa industriya patungo sa pagproseso sa gilid. Ang bagong modelo ng `gpt-oss-20b` mula sa OpenAi ay maaari na ngayong tumakbo nang lokal sa mga high-end na PC na may mga chips ng Snapdragon. Ito ang kauna-unahang pagkakataon na ang isa sa mga advanced na modelo ng Openai ay ginawang magagamit para sa paggamit ng on-device. Sa ngayon, ang teknolohiyang ito ay naglalayong sa mga developer na gumagamit ng mga PC na may 24GB ng RAM, hindi araw-araw na mga smartphone . Gayunpaman, nagmamarka ito ng isang pangunahing milestone, na naglalagay ng daan para sa hinaharap na mga personal na ahente ng AI na mas tumutugon at ligtas. href=”https://www.qualcomm.com/news/onq/2025/08/openai-model-on-device-snapdragon”target=”_ blangko”> Magsagawa ng pagkahilig nang direkta sa mga aparato na pinapagana ng mga punong-guro na snapdragon processors . Ang chipmaker ay pinasasalamatan ang pag-unlad bilang isang”pangunahing milyahe”at isang”punto ng pag-on,”na nagdadala ng sopistikadong, chain-of-thought na mga kakayahan ng OpenAi sa labas ng ulap at papunta sa lokal na hardware sa kauna-unahang pagkakataon. Pinapayagan nito ang mga kumplikado, multi-step na mga gawain na maproseso nang lokal, isang kritikal na hakbang patungo sa paglikha ng tunay na personal na mga katulong sa AI. Qualcomm maagang pag-access sa modelo. Ang kumpanya ay nagsagawa ng malawak na pagsubok sa pagsasama, na gumagamit ng pagmamay-ari nito Qualcomm ai engine at ang Qualcomm ai stack Upang ma-optimize ang 20-bilyon-parameter na modelo para sa mahusay na pagpapatupad ng on-device. Ang gawaing ito ay nagpapakita kung ano ang tawag sa Qualcomm na”kapanahunan ng AI ecosystem,”kung saan ang open-source na pagbabago ay maaaring mabilis na magamit ng mga kasosyo sa hardware. Open-Source Community at Counter Rivals. Sa pamamagitan ng paggawa ng mga modelo na magagamit sa ilalim ng isang pinahihintulutang lisensya ng Apache 2.0, hinihikayat ng OpenAi ang malawakang pag-aampon at pagbibigay ng mga developer ng malakas, transparent na mga tool. Hindi ito para sa iyong kasalukuyang smartphone. Tulad ng isang ulat na bluntly ilagay ito, huwag huminga upang tumakbo ito sa chip ng iyong telepono. Ang pagsasama ay partikular na target ang hardware na grade-developer, pangunahin ang mga PC na pinapagana ng Snapdragon at nakatuon na mga kit ng pag-unlad. Ang pokus na ito ay naglalayong squarely sa mga mananaliksik ng AI at mga developer ng negosyo na naghahanap upang makabuo ng mga pasadyang aplikasyon sa malakas, lokal na hardware, sa halip na average na gumagamit ng Android. Ang pagpapatakbo ng `GPT-OSS-20B` LOCALLY sa pamamagitan ng Qualcomm Integration ay hinihiling ng isang malaking 24GB ng RAM, isang detalye na higit pa sa kapasidad ng mga mobile na aparato ngayon, na karaniwang nangunguna sa 12GB o 16GB. Ang prerequisite na ito ay matatag na nagpoposisyon sa teknolohiya sa kaharian ng mga high-end na PC at mga propesyonal na workstation para sa ngayon, lalo na ang mga nagpapatakbo ng Snapdragon x elite chipset. Sa opisyal na anunsyo nito, sinabi ng kumpanya,”Naniniwala kami na ang kakayahan ng on-device AI ay tataas nang mabilis, pagbubukas ng pintuan sa pribado, mababang-latency, mga personal na karanasan sa ahente.”Ito ay nagmumungkahi ng isang pangmatagalang roadmap kung saan, bilang Ang mga mobile na memorya ng memorya ay patuloy na lumalaki at ang mga software na stacks ay nakakakuha ng mas mahusay na , ang mga malakas na karanasan ng ahente na ito ay migrate mula sa PC sa iyong telepono Pocket. Ang pagproseso ng data ng lokal na panimula ay nagbabago sa equation ng seguridad sa pamamagitan ng pagtanggal ng pangangailangan na magpadala ng sensitibong impormasyon sa ulap. Nangangahulugan ito na ang mga gawain ay maaaring makumpleto sa offline, nang walang koneksyon sa internet, at ang data ng gumagamit ay nananatiling ligtas sa aparato, isang kritikal na kalamangan para sa parehong mga personal at negosyo na aplikasyon kung saan ang soberanya ng data ay pinakamahalaga. Sa pamamagitan ng pag-alis ng round-trip sa isang malayong sentro ng data, ang mga pakikipag-ugnay ay nagiging mas mabilis at mas tumutugon. Tulad ng tala ng isang ulat, maaaring mangahulugan ito ng mas mabilis na mga tugon at walang pagkaantala kung sapat na ang koneksyon sa internet. Mahalaga ito para sa paglikha ng walang tahi, real-time na mga karanasan sa pag-uusap na inaasahan ng mga advanced na katulong sa AI. Ang kakayahang magsagawa ng mga kumplikadong gawain sa pangangatuwiran agad, nang walang lag, ay isang pundasyon ng paggawa ng pakiramdam ng AI na tunay na isinama at kapaki-pakinabang. Ang isang ahente ng on-device ay maaaring ligtas na ma-access at dahilan sa mga pribadong email ng isang gumagamit, kalendaryo, at mga contact upang magbigay ng tulong sa konteksto, lahat nang walang data na iyon ay umalis sa aparato. Upang gawin itong isang katotohanan para sa mga nag-develop, na-highlight ng Qualcomm na ang modelo ay maa-access sa pamamagitan ng mga sikat na platform. href=”https://ollama.com/library/gpt-oss:20b”target=”_ blangko”> mga frameworks tulad ng ollama , isang magaan na balangkas ng paghahatid, upang patakbuhin ang `gpt-oss-20b` nang direkta sa mga platform ng snapdragon at galugarin ang mga kakayahan nito. Pinagmulan
Ang paglabas ng `GPT-oss` ay isang direktang pagtugon sa mga taon ng pagpuna sa saradong diskarte nito at isang madiskarteng paglipat sa mga kontra sa mga karibal tulad ng mga meta at chinese tech firms.
Upang matiyak ang pagiging pare-pareho, inilunsad din ni Openai ang’Harmony,’isang ipinag-uutos na format ng chat para sa `gpt-oss`. Binubuo nito ang mga pag-uusap sa natatanging mga channel para sa pangangatuwiran at paggamit ng tool, na nagbibigay ng mga developer ng butil na kontrol. Ang damdamin na ito ay binibigkas ng mga pinuno ng komunidad, kasama si Nathan Lambert ng Allen Institute para sa AI na pinupuri ang paglipat, na nagsasabing,”Ito ay isang napakahusay na bagay para sa bukas na pamayanan.”
