Microsoft bringt OpenAIs leistungsstarke neue”GPT-OSS”-Modelle für lokale PCs mit, teilte das Unternehmen am Dienstag in einem großen Vorstoß in künstliche Intelligenz im Rahmen des Geräts. Der Bewegung nutzt eine neue Plattform, Azure Ai Foundry Lokal , um Entwickler von tecaned Ai zu verarbeiten. Initiative zielt darauf ab, privatere, reaktionsschnelle und sichere KI-Anwendungen zu erstellen, indem Daten lokal anstatt in der Cloud verarbeitet werden. Es ist ein bedeutender Schritt, um hoch entwickelte KI-Tools weit verbreitet zu machen und Windows als Schlüsselplattform für die nächste Welle der KI-Entwicklung zu positionieren, unabhängig von der Cloud. src=”https://winbuzer.com/wp-content/uploads/2024/11/azure-ai-foundry.-official.jpg”href=”https://learn.microsoft.com/en-us/azure/ai-foundry/foundry-local”target=”_ leer”> On-Device-Inferenzplattform für Windows und MacOS . Es ermöglicht erweiterte KI-Modelle, direkt auf Benutzerhardware auszuführen, eine erhebliche Abweichung vom Cloud-zentrierten Modell, das die KI-Landschaft dominiert hat. Die Plattform ist derzeit in der öffentlichen Vorschau verfügbar und ermöglicht es Entwicklern, sofort zu experimentieren. Dieser Ansatz befasst sich mit Latenzproblemen und macht KI-Interaktionen schneller. Entscheidend ist, dass Entwickler Foundry Local ohne Azure-Abonnement verwenden können, Die Barriere für Experimente und Small-Scale-Foothment-Foothment-Foothment-Foothment-Einsatz. Onnx-Laufzeit zu automatisch optimieren Sie die Modellleistung in einer breiten Palette von Hardware, einschließlich CPUs, GPUs und NPUs von Anbietern wie Intel, AMD, NVIDIA und Qualcomm . Es ist auch bietet eine openai-kompatible API, eine Cli und eine SDK für einfache Integration . Fähigkeiten.”Foundry Local bringt diese Modelle zu Windows-die Niedrig-Latenz, eine sichere, offline-Inferenz über CPUs, GPUs und NPUs. Dies ist mit voller Feinabstimmung und Orchestrierungsunterstützung ausgestattet.”Dies positioniert Foundry Local nicht nur als Laufzeitumgebung, sondern auch als vollwertiges Entwicklungs-Toolkit für On-Device-Ai. Die Modelle sind unter einer liquisiven Apache 2.0-Lizenz erhältlich, Ermutigende weit verbreitete Adoption und Modifikation . Ein größeres, leistungsstärkeres Argumentationsmodell mit Leistung vergleichbar mit GPT-4-Klasse-Systemen . Beide basieren auf einer effizienten Architektur der Experten (Experten), die nur einen Bruchteil der Parameter der Modelle für eine bestimmte Aufgabe aktiviert und die Leistung maximiert und gleichzeitig die Rechenkosten minimiert. Casey Dvorak, ein Forschungsprogrammmanager bei OpenAI, erklärte die Begründung: „Da es kein [wettbewerbsfähiges] offenes Modell von OpenAI gibt, wollten wir diese Lücke anschließen und ihnen tatsächlich erlauben, unsere Technologie auf der ganzen Linie zu nutzen.”Auf diese Weise kann das Unternehmen um Entwickler konkurrieren, die lokal geführte Modelle für Sicherheits-, Kosten-oder Anpassungsgründe benötigen. Diese Template strukturiert die Ausgabe des Modells in separate Kanäle für die Argumentation (“Analysis”), Toolsaufrufe (“Kommentar”und die endgültige Antwort, die den Entwicklern die transparentere Kontrolle über Agenten-Workflows verleiht. Tech-Ökosystem. Diese branchenweite Einführung unterstreicht die Bedeutung der Rückkehr von OpenAI in die Open-Source-Community und ihr Ziel, neue Standards für die KI-Entwicklung festzulegen. Diese Hardware-Ermöglichung ist entscheidend, um KI in Hochleistungslaptops zu bringen, obwohl es derzeit eine kräftige 24 GB RAM erfordert und sie fest in die Kategorie Hardware-Grade-Grade-Hardware einsetzt. Verbindungen zu Microsoft. Dies schafft eine Dynamik von”Koopetition”, die die Reichweite von OpenAI erweitert und gleichzeitig die Cloud-AI-Rivalität intensiviert. Wie von Peter Henderson, einem Assistenzprofessor an der Princeton University, festgestellt,”geht es zum Teil darum, OpenAs Dominanz im Forschungsökosystem zu bekräftigen.”Openai selbst hat die Veröffentlichung in geopolitischer Hinsicht umrahmt und festgestellt, dass „der in den USA erstellte breite Zugang zu diesen fähigen Open-Weights-Modellen dazu beiträgt, demokratische KI-Schienen zu erweitern. Diese koordinierte Anstrengung zielt darauf ab,”GPT-OSS”und das Harmony-Format als neuer Standard für die nächste Generation der AI-Entwicklung zu etablieren.
Categories: IT Info
