A Microsoft retirou seu recém-lançado WizardLM 2, um grande modelo de linguagem apontado como um dos mais poderosos modelos de código aberto ferramentas desse tipo, poucas horas após seu lançamento. A decisão veio após um relatório pela The Information, que destacou que o modelo foi tornado público sem passar pelos testes de toxicidade necessários, um passo crítico para garantir que as interações da IA sejam seguras e apropriadas.
Propagação rápida apesar da retirada
Apesar da rápida ação da Microsoft para retirar o WizardLM 2 dos canais oficiais, a breve disponibilidade do modelo foi o suficiente para que ele seja baixado e posteriormente recarregado por vários indivíduos. Plataformas como GitHub e Hugging Face agora hospedam o modelo, tornando-o amplamente acessível, apesar das intenções da Microsoft. Este incidente sublinha os desafios no controlo do conteúdo digital, uma vez lançado no domínio público. A Microsoft se absteve de comentar a situação, deixando a comunidade tecnológica especulando sobre as implicações da distribuição não intencional do modelo.
Implicações e ações futuras
As a liberação inadvertida e a subsequente disseminação do WizardLM 2 levantam preocupações significativas sobre a supervisão dos processos de desenvolvimento de IA, particularmente a importância de realizar avaliações abrangentes de toxicidade e segurança antes da divulgação pública. O incidente serve como um lembrete dos riscos potenciais associados a ferramentas poderosas de IA e da necessidade de protocolos de testes rigorosos.
O LLM da Microsoft ainda é relativamente desconhecido e não é popular. No entanto, o Google enfrentou recentemente problemas semelhantes – e mais embaraçosos – com seu modelo Gemini. O CEO do Google, Sundar Pichai, emitiu uma declaração prometendo corrigir os problemas relacionados ao aplicativo Gemini AI, após sua suspensão devido à geração de conteúdo considerado ofensivo e tendencioso. O aplicativo enfrentou críticas por respostas e imagens problemáticas relacionadas à raça, incluindo a recusa de retratar indivíduos brancos e a produção de representações inadequadas de vários grupos.