Qualcomm und OpenAI kündigten am Dienstag einen großen Schritt für die KI für On-Device-KI an, die einen breiteren Branchenversand auf die Verarbeitung am Rande widerspiegelt. Das neue”GPT-OSS-20B”-Modell von OpenAI kann jetzt lokal auf High-End-PCs mit Snapdragon-Chips laufen. Dies ist das erste Mal, dass eines der erweiterten Argumentationsmodelle von OpenAI für die Verwendung von On-Device verfügbar gemacht wurde. Vorerst richtet sich diese Technologie an Entwickler, die PCs mit 24 GB RAM verwenden, Nicht-alltägliche Smartphones . Trotzdem markiert es einen Schlüsselmeilenstein und ebnet den Weg für zukünftige persönliche KI-Agenten, die reaktionsschneller und sicherer sind. href=”https://www.qualcomm.com/news/onq/2025/08/openai-model-on-pice-snapdragon”target=”_ leer”> Inferenz direkt auf Geräten ausführen, die von den Flaggschiff-Snapdragon-Prozessoren betrieben werden . Der Chipmaker begrüßte die Entwicklung als”Hauptmeilenstein”und als”Wendepunkt”, wodurch OpenAs erstmals aus der Cloud und auf die lokale Hardware auf lokale Hardware herausgebracht wurde. Dies ermöglicht es, komplexe, mehrstufige Aufgaben lokal verarbeitet zu werden, ein kritischer Schritt zur Schaffung wirklich persönlicher AI-Assistenten. Qualcomm Frühzugriff auf das Modell. Das Unternehmen führte umfangreiche Integrationstests durch und nutzte sein proprietäres qualcomm ai-Engine und das qualcomm AI-Stack Um das 20-Milliarden-Parameter-Modell für eine effiziente Ausführung von On-Device zu optimieren. Diese Arbeit zeigt, wie Qualcomm die”Reife des AI-Ökosystems”bezeichnet, wo Open-Source-Innovation von Hardwarepartnern schnell genutzt werden kann. Open-Source-Community und Konterrivalen. OpenAI, die die Modelle unter einer liquidsiven Apache 2.0-Lizenz verfügbar machen, ermutigt die weit verbreitete Akzeptanz und bietet Entwicklern leistungsstarke, transparente Tools. Es ist nicht für Ihr aktuelles Smartphone. Wie ein Bericht unverblümt ausdrückte, halten Sie nicht den Atem an, damit dies auf dem Chip Ihres Telefons ausgeführt wird. Die Integration zielt speziell für Entwickler-Hardware, hauptsächlich von Snapdragon betriebene PCs und dedizierte Entwicklungskits ab. Dieser Fokus richtet sich genau auf KI-Forscher und Unternehmensentwickler, die kundenspezifische Anwendungen auf leistungsstarker, lokaler Hardware erstellen möchten, anstatt auf dem durchschnittlichen Android-Benutzer. Das Ausführen von `gpt-oss-20b` lokal durch die Qualcomm-Integration erfordert eine erhebliche 24 GB RAM, eine Spezifikation, die weit über die Kapazität der heutigen mobilen Verbrauchergeräte hinausgeht und in der Regel bei 12 GB oder 16 GB. Diese Hardware-Voraussetzung positioniert die Technologie vorerst im Bereich der High-End-PCs und professionellen Workstations, insbesondere derjenigen, die den Snapdragon X Elite-Chipsatz betreiben. In seiner offiziellen Ankündigung erklärte das Unternehmen: „Wir glauben, dass die KI-Fähigkeit zur Einrichtung schnell zunehmen wird und die Tür zu privaten, leichten und personalisierten Agentenerlebnissen öffnet.”Dies deutet auf eine langfristige Roadmap hin, bei der Mobile Mademfußabdrücke weiter ausgebaut werden. Taschenform. Die Verarbeitung von Daten verändert die Sicherheitsgleichung aus lokaler Bedeutung, indem die Notwendigkeit beseitigt wird, vertrauliche Informationen an die Cloud zu senden. Dies bedeutet, dass Aufgaben ohne Internetverbindung offline erledigt werden können und Benutzerdaten sicher auf dem Gerät bleiben, ein entscheidender Vorteil für persönliche und unternehmerische Anwendungen, bei denen die Datensouveränität von Daten entscheidet.
Diese lokale Verarbeitungsleistung befasst sich auch direkt mit dem Problem der Latenz. Durch das Entfernen des Hin-und Rückflugs zu einem entfernten Rechenzentrum werden die Interaktionen schneller und reaktionsschnell. Wie ein Bericht feststellt, kann dies schnellere Antworten und keine Verzögerungen bedeuten, wenn die Internetverbindung gut genug ist. Dies ist entscheidend, um die nahtlosen Echtzeit-Konversationserlebnisse zu schaffen, die von fortschrittlichen AI-Assistenten erwartet werden. Die Fähigkeit, komplexe Argumentationsaufgaben sofort ohne Verzögerung auszuführen, ist ein Eckpfeiler, wenn KI sich wirklich integriert und hilfreich anfühlt. Ein Agent für On-Device-Agent kann sicher auf die privaten E-Mails, den Kalender und die Kontakte eines Benutzers zugreifen, um kontextbezogene Unterstützung zu leisten, ohne dass diese Daten jemals das Gerät verlassen haben. Um dies für Entwickler zu verwirklichen, hat Qualcomm hervorgehoben, dass das Modell über beliebte Plattformen zugänglich ist. href=”https://ollama.com/library/gpt-OSS:20b”target=”_ leer”> Frameworks wie Ollama , ein leichter Wartungsgerüst, um `gpt-oss-20b` direkt auf Snapdragon-Plattformen zu erkennen und seine Fähigkeiten zu erkennen.
Dieser Meilenstein für das Gerät ist intrinsisch mit der erneuten Umarmung der Open-Source-Welt von Openai verbunden. Die Veröffentlichung von GPT-OSS ist eine direkte Reaktion auf Jahre der Kritik an ihrem geschlossenen Ansatz und ein strategischer Schritt, um Konkurrenten wie Meta und chinesische Technologieunternehmen zu entgegenzuwirken. Stellen Sie sicher, dass die Konsistenz auch”Harmony”, ein obligatorisches Chat-Format für”GPT-OSS”, veröffentlicht hat. Es strukturiert Gespräche in unterschiedliche Kanäle zum Denken und die Verwendung von Werkzeugen und verleiht Entwicklern eine granulare Kontrolle. Dieses Gefühl wird von Community Leaders wiederholt, wobei Nathan Lambert vom Allen Institute for AI den Umzug lobte und sagte:”Es ist eine sehr gute Sache für die offene Gemeinschaft.”