Qualcomm e Openai hanno annunciato un passo importante per l’IA sul dispositivo martedì, riflettendo una spinta più ampia del settore verso l’elaborazione ai margini. Il nuovo modello `GPT-OSS-20B` di Openi può ora funzionare localmente su PC di fascia alta con chip Snapdragon. Questa è la prima volta che uno dei modelli di ragionamento avanzato di Openai è stato reso disponibile per l’uso sul dispositivo.
L’obiettivo è creare esperienze di intelligenza artificiale più veloci e più private gestendo i dati a livello locale. Per ora, questa tecnologia è rivolta agli sviluppatori che utilizzano PC con 24 GB di RAM, non quotidiano smartphones . Tuttavia, segna una pietra miliare chiave, aprendo la strada a futuri agenti di intelligenza artificiale che sono più reattivi e sicuri.
Una pietra miliare per l’intelligenza artificiale sul dispositivo, con un modello di cattura
in una mossa significativa per l’industria dell’intelligenza artificiale href=”https://www.qualcomm.com/news/onq/2025/08/openai-model-on-device-snapdragon”Target=”_ blank”> Esegui inferenze direttamente sui dispositivi alimentati dai suoi processori Snapdragon di fogge di flagship . Il chipmaker ha salutato lo sviluppo come una”pietra miliare”e una”svolta”, portando per la prima volta le capacità di ragionamento sofisticate e del pensiero di Openai. Ciò consente di elaborare compiti complessi e multi-fase di elaborare localmente, un passo fondamentale verso la creazione di assistenti di intelligenza artificiale veramente personali.
Qualcomm Ai Engine e il Qualcomm AI Stack Per ottimizzare il modello da 20 miliardi di parametri per un’efficace esecuzione del device. This work demonstrates what Qualcomm calls the “maturity of the AI ecosystem,”where open-source innovation can be rapidly harnessed by hardware partners.
This announcement is a key part of OpenAI’s broader strategic pivot back to open-weight models, its first such release since 2019. The release, which also includes the larger `gpt-oss-120b` model, is widely seen as an effort to re-engage the Comunità open source e contropunti. Rendendo disponibili i modelli con una licenza Apache 2.0 permissiva, Openai sta incoraggiando l’adozione diffusa e fornendo agli sviluppatori strumenti potenti e trasparenti.
La stampa fine: Snapdragon PCS, non smartphone (per ora)
mentre le notizie generano l’eccitazione, la capitalità del dispositivo di consumo che si è verificata un impatto di consumo immediato che per il consumo di consumo immediato. non è per il tuo attuale smartphone. Come ha detto un rapporto senza mezzi termini, non trattenere il respiro per far funzionare il chip del tuo telefono. L’integrazione si rivolge specificamente a hardware di livello per sviluppatori, principalmente PC basati su Snapdragon e kit di sviluppo dedicati. Questo obiettivo è rivolto esattamente ai ricercatori di AI e agli sviluppatori aziendali che cercano di creare applicazioni personalizzate su hardware locali potenti, piuttosto che sull’utente Android medio.
La barriera primaria è il requisito di risorse pesanti del modello. Gestire `GPT-OSS-20B` localmente attraverso l’integrazione Qualcomm richiede un sostanziale 24 GB di RAM, una specifica che va ben oltre la capacità dei dispositivi mobili di consumo di oggi, che in genere si esauriscono a 12 GB o 16 GB. Questo prerequisito hardware posiziona saldamente la tecnologia nel regno dei PC di fascia alta e delle workstation professionali per ora, in particolare quelli che gestiscono il chipset Elite Snapdragon X.
Qualcomm è trasparente su questa limitazione, inquadrandolo come uno sguardo strategico nel futuro del calcolo personale. Nel suo annuncio ufficiale, la società ha dichiarato:”Riteniamo che la capacità di intelligenza artificiale in dispositivo aumenterà rapidamente, aprendo le porte a esperienze agenti private, a bassa latenza e personalizzate”. Ciò suggerisce una tabella di marcia a lungo termine in cui, come footprint di memoria mobile continuerà Pocket.
Perché il dispositivo è importante: privacy, velocità e personalizzazione
La spinta strategica per l’intelligenza artificiale sul dispositivo, una visione che Qualcomm ha da tempo sostenuto, è guidata da un trio di benefici chiari e convincenti degli utenti: privacy, velocità e personalizzazione. L’elaborazione dei dati a livello locale altera fondamentalmente l’equazione della sicurezza eliminando la necessità di inviare informazioni sensibili al cloud. Ciò significa che le attività possono essere completate offline, senza una connessione Internet, e i dati degli utenti rimangono in modo sicuro sul dispositivo, un vantaggio critico per le applicazioni sia personali che aziendali in cui la sovranità dei dati è fondamentale.
Questa potenza di elaborazione locale affronta anche direttamente il problema della latenza. Rimuovendo il viaggio di andata e ritorno a un data center distante, le interazioni diventano più veloci e più reattive. Come rileva un rapporto, ciò potrebbe significare risposte più veloci e nessun ritardo se la connessione Internet è abbastanza buona. Ciò è fondamentale per creare le senza soluzione di continuità e le esperienze di conversazione in tempo reale previste dagli assistenti di intelligenza artificiale avanzati. La capacità di eseguire compiti di ragionamento complessi istantaneamente, senza ritardo, è una pietra miliare per far sentire l’IA veramente integrata e utile.
In definitiva, questi vantaggi convergono per consentire agenti di intelligenza artificiale altamente personalizzati in grado di integrare le soluzioni cloud. Un agente sul dispositivo potrebbe accedere in modo sicuro e ragionare su e-mail private di un utente, calendario e contatti per fornire assistenza contestuale, il tutto senza che i dati lasciassero mai il dispositivo. Per rendere questa realtà per gli sviluppatori, Qualcomm ha evidenziato che il modello è accessibile attraverso piattaforme popolari.
Gli sviluppatori possono scaricare il modello da abbraccio faccia e usa frameworks come ollama , un framework di manutenzione leggero, per far funzionare `gpt-as-20b` direttamente su snapdragon piattaforme di snapdragon ed esplorare le sue capacità.