Microsoft a retiré son WizardLM 2 récemment publié, un grand modèle de langage présenté comme l’un des logiciels open source les plus puissants. des outils de ce type, quelques heures seulement après sa sortie. La décision est intervenue à la suite d’un rapport par The Information, qui a souligné que le modèle a été rendu public sans subir les tests de toxicité nécessaires, une étape critique pour garantir que les interactions de l’IA sont sûres et appropriées.
Propagation rapide malgré le retrait.
Malgré l’action rapide de Microsoft pour retirer WizardLM 2 des canaux officiels, la brève disponibilité du modèle a été suffisamment pour qu’il soit téléchargé puis ré-uploadé par plusieurs personnes. Des plateformes telles que GitHub et Hugging Face hébergent désormais le modèle, le rendant largement accessible malgré les intentions de Microsoft. Cet incident souligne les défis liés au contrôle du contenu numérique une fois qu’il a été rendu public. Microsoft s’est abstenu de commenter la situation, laissant la communauté technologique spéculer sur les implications de la distribution involontaire du modèle.
Implications et actions futures
Le La publication par inadvertance et la diffusion ultérieure de WizardLM 2 soulèvent d’importantes inquiétudes quant à la surveillance des processus de développement de l’IA, en particulier quant à l’importance de mener des évaluations complètes de toxicité et de sécurité avant la diffusion publique. L’incident rappelle les risques potentiels associés aux puissants outils d’IA et la nécessité de protocoles de test rigoureux.
Le LLM de Microsoft est encore relativement méconnu et peu courant. Cependant, Google a récemment été confronté à des problèmes similaires – et plus embarrassants – avec son modèle Gemini. Le PDG de Google, Sundar Pichai, a publié une déclaration dans laquelle il s’engage à corriger les problèmes liés à l’application Gemini AI, suite à sa suspension en raison de la génération de contenu jugé offensant et biaisé. L’application a été critiquée pour ses réponses et ses images problématiques concernant la race, notamment le refus de représenter des individus blancs et la production de représentations inappropriées de divers groupes.
