Microsoft está llevando a los poderosos nuevos modelos’GPT-OSS’de OpenAI a las PC locales, anunció la compañía el martes, en un gran impulso a la inteligencia artificial en el dispositivo. El movimiento aprovecha una nueva plataforma, azure ai foundry local , para permitir a los desarrolladores correr directamente en los dispositivos de ventanas, incluso sin línea y sin un aiRure Foundry local , para permitir a los desarrolladores dirigir directamente en los dispositivos de ventanas de ventanas, incluso sin un lugar sin un aiRure. Suscripción.
Esta iniciativa tiene como objetivo crear aplicaciones AI más privadas, receptivas y seguras mediante el procesamiento de datos localmente en lugar de en la nube. Marca un paso significativo para hacer que las herramientas de IA sofisticadas sean ampliamente disponibles y posicione Windows como una plataforma clave para la próxima ola de desarrollo de IA, independientemente de la nube.
El anuncio, hecho por el CVP de Microsoft y los productos de la plataforma AI, ASHA Sharma, es el último desarrollo en una falla de la actividad de la industria a través de la industria que rodea el regreso de OpenAi de regreso a la luz abierta. src=”https://winbuzzer.com/wp-content/uploads/2024/11/azure-ai-foundry.official.jpg”>
Azure ai Foundry Foundry local para la inferencia en el servicio
en el centro de la estrategia de Microsofts es Azure Ai Ai Foundry Locy, una inferencia en el servicio
en el centro de la estrategia de Microsoft. href=”https://learn.microsoft.com/en-us/azure/ai-foundry/foundry-local”target=”_ blank”> plataforma de inferencia en desarrollo para Windows y macos . Permite que los modelos AI avanzados se ejecuten directamente en el hardware del usuario, una desviación significativa del modelo centrado en la nube que ha dominado el panorama de IA. La plataforma está actualmente disponible en la vista previa pública, lo que permite a los desarrolladores comenzar a experimentar de inmediato.
La ventaja clave de la plataforma es su capacidad para funcionar fuera de línea, disminuir la barrera hasta la entrada para la experimentación y el despliegue de escala pequeña .
[el contenido en blanco”Onnx Runtime a automáticamente optimizar el rendimiento del modelo en una amplia gama de hardware, incluidas las CPU, las GPU y las NPUS de proveedores como Intel, AMD, NVIDIA y QUALCOMM . También proporciona un API compatible de OpenAI, un SDK y un SDK para fácil integración .
En su anuncio, asha sharma, el sharmage, el sharmage, el sharmage, el sharmage. capacidades.”Foundry Local lleva estos modelos a Windows, que habilita la inferencia de baja latencia, segura y fuera de línea entre CPU, GPU y NPU. Esto posiciona a la fundición local no solo como un entorno de tiempo de ejecución, sino como un kit de herramientas de desarrollo de pleno derecho para AI en el dispositivo.
Los cerebros de la operación: los modelos GPT-ASS GPT-ASS de OpenAI
Foundry Local admitirán los modelos `GPT-ASS-20B` y` GPT-20B` de OpenAI. TThe models are available under a permissive Apache 2.0 license, encouraging widespread adoption and modification.
The smaller `gpt-oss-20b` is specifically designed for on-device applications, while the `gpt-oss-120b` is Un modelo de razonamiento más grande y poderoso con rendimiento comparable a los sistemas de clases GPT-4 . Ambos se basan en una arquitectura eficiente de la mezcla de expertos (MOE), que activa solo una fracción de los parámetros de los modelos para cualquier tarea dada, maximizando el rendimiento al tiempo que minimiza el costo computacional.
Este movimiento aborda una brecha de larga data en la cartera de OpenAI. Casey Dvorak, gerente del programa de investigación en OpenAI, explicó la justificación:”Debido a que no hay un modelo abierto [competitivo] de OpenAI, queríamos conectar esa brecha y permitirles usar nuestra tecnología en todos los ámbitos”. Esto permite a la compañía competir por los desarrolladores que requieren modelos locales por razones de seguridad, costo o personalización.
Un requisito técnico crítico es”armonía”, un formato de chat nuevo y obligatorio para’GPT-ASS’. This template structures the model’s output into separate channels for reasoning (`analysis`), tool calls (`commentary`), and the final answer, giving developers more transparent control over agentic workflows.
A Strategic Alliance in the On-Device AI Race
Microsoft’s announcement is part of a broader, coordinated launch for `gpt-oss` that abarca el ecosistema tecnológico. Este abrazo de toda la industria subraya la importancia del regreso de OpenAI a la comunidad de código abierto y su ambición de establecer nuevos estándares para el desarrollo de IA.
Otros socios principales incluyen Qualcomm, que anunció que el modelo `GPT-OSS-20B` puede ejecutarse localmente en sus PC con drogadicto. Esta habilitación de hardware es crucial para llevar la IA en el dispositivo a las computadoras portátiles de alto rendimiento, aunque actualmente requiere un considerable 24 GB de RAM, colocándola firmemente en la categoría de hardware de grado de desarrollador por ahora.
Simultáneamente, reveló una asociación de listones para llevar a los modelos de “ GPT-ASS’a su plataforma de cepillo a través de la plataforma de amazon y el sageker de AWS, diversificando el AWS, diversificando el AWSi, diversificando los modelos de Sagei de AWS para llevar a AWS a la “ GPT-oss’a través de su plataforma de cepillo de Amazon y SageMer. Atacas con Microsoft. Esto crea una dinámica de”coopetición”, expandiendo el alcance de OpenAI mientras intensifica la rivalidad de la IA de la nube.
Esta estrategia multipurada aparece diseñada para recuperar la influencia en el mundo de código abierto. Como señaló Peter Henderson, profesor asistente en la Universidad de Princeton,”en parte, se trata de reafirmar el dominio de OpenAI en el ecosistema de investigación”. OpenAi en sí mismo enmarcó el lanzamiento en términos geopolíticos, afirmando que”un amplio acceso a estos modelos capaces de peso abierto creados en los EE. UU. Ayuda a expandir los rieles de IA democráticos”.
haciendo que sus modelos sean poderosos, accesibles y compatibles con un ecosistema robusto de Cloud to Edgei, OpenAi está haciendo un caso de obligación para su plataforma. Este esfuerzo coordinado tiene como objetivo establecer’GPT-OSS’y el formato de armonía como un nuevo estándar para la próxima generación de desarrollo de IA.
