A
A Microsoft está trazendo os poderosos novos modelos `GPT-Oss` da OpenAI para os PCs locais, anunciou a empresa na terça-feira, em um grande impulso para a inteligência artificial no dispositivo. O movimento aproveita uma nova plataforma, Azure Ai Foundry local , para permitir desenvolvedores para correr avançados Ai diretamente”A iniciativa visa criar aplicativos de IA mais privados, responsivos e seguros, processando os dados localmente, em vez de na nuvem. Ele marca uma etapa significativa na fabricação de ferramentas sofisticadas de IA amplamente disponíveis e posiciona o Windows como uma plataforma-chave para a próxima onda de desenvolvimento de IA, independente da nuvem. src=”https://winbuzzer.com/wp-content/uploads/2024/11/azure-ai-foundry.-fligial.jpg”>
Azure Ai Foundry Local para a inferência AZUM AZUMA AZUMA AZUMA AZUMA AZUMA AZUMA AZUMA AZUMA AZUMA AZUMA AZUMA AZUMA AZUMA AZUMA AZUMA AZ AZUMA A AZ AZUMA A AZUMA AZRO A AZ AZSOT IS AZRIME href=”https://learn.microsoft.com/en-us/azure/ai-foundry/foundry-local”Target=”_ Blank”> Plataforma de inferência no device para Windows e MacOS . Ele permite que os modelos avançados de IA sejam executados diretamente no hardware do usuário, um afastamento significativo do modelo centrado na nuvem que dominou o cenário da IA. Atualmente, a plataforma está disponível em visualização pública, permitindo que os desenvolvedores comecem a experimentar imediatamente. Essa abordagem aborda os problemas de latência, tornando as interações de IA mais rapidamente. Crucialmente, os desenvolvedores podem usar a Foundry Local sem uma assinatura do Azure, abaixando a entrada para a entrada e a experimentação e a pequena escala otimize o desempenho do modelo em uma ampla gama de hardware, incluindo CPUs, GPUs e NPUs de NPUs de fornecedores como Intel, AMD, NVIDIA e Qualcomm . Ele também fornece uma API de Shanst OpenAn, uma API, e um SDK para fácil integração . recursos. “A Foundry Local traz esses modelos para o Windows-abordando a inferência de baixa latência, segura e offline entre as CPUs, GPUs e NPUs. Isso vem com suporte completo de ajuste fino e orquestração.”Essa fundição de fundição local não apenas como um ambiente de tempo de execução, mas como um kit de ferramentas de desenvolvimento completo para a IA do decavice. Os modelos estão disponíveis sob uma licença permissiva do Apache 2.0, Incentivando a adoção e a modificação ampla e o que é necessário para o que os aplicações e os aplicações são os aplicativos e os aplicativos de que os aplicações são os que são mais importantes, os aplicativos de que os aplicativos e os aplicativos-10biclous-s10. é um modelo de raciocínio maior e mais poderoso com Performance comparável aos sistemas de classe GPT-4 . Ambos são construídos com uma arquitetura eficiente da mistura de especialistas (MOE), que ativa apenas uma fração dos parâmetros dos modelos para qualquer tarefa, maximizando o desempenho e minimizando o custo computacional. Casey Dvorak, gerente de programas de pesquisa da Openai, explicou a lógica: “Como não existe um modelo aberto [competitivo] do OpenAI, queríamos conectar essa lacuna e realmente permitir que eles usem nossa tecnologia em geral”. Isso permite que a empresa concorra a desenvolvedores que exigem modelos de execução localmente por razões de segurança, custo ou personalização. Este modelo estrutura a saída do modelo em canais separados para raciocínio (`análise`), chamadas de ferramentas (` comentário`) e a resposta final, dando aos desenvolvedores controle mais transparente sobre os fluxos de trabalho agênticos. o ecossistema de tecnologia. Esse abraço em todo o setor ressalta o significado do retorno da OpenAI à comunidade de código aberto e sua ambição de estabelecer novos padrões para o desenvolvimento da IA.
Outros grandes parceiros incluem a Qualcomm, que anunciou que o modelo `GPT-20B` pode ser executado localmente em seus PCs de snapdragon. Essa capacitação de hardware é crucial para levar a IA no dispositivo para laptops de alto desempenho, embora atualmente exija uma pesada 24 GB de RAM, colocando-a firmemente na categoria de hardware de grau de desenvolvedor por enquanto. Fechar laços com a Microsoft. Isso cria uma dinâmica de”coopetição”, expandindo o alcance do OpenAI e intensificando a rivalidade da IA da nuvem. Como observado por Peter Henderson, professor assistente da Universidade de Princeton,”em parte, trata-se de reafirmar o domínio do OpenAI no ecossistema de pesquisa”. O próprio Opening enquadrou a liberação em termos geopolíticos, afirmando que “o amplo acesso a esses modelos de pesos abertos capazes criados nos EUA ajuda a expandir os trilhos democráticos da IA”. Esse esforço coordenado tem como objetivo estabelecer o’GPT-Oss’e o formato de harmonia como um novo padrão para a próxima geração de desenvolvimento de IA.