Encode, une organisation à but non lucratif dirigée par des jeunes et qui milite en faveur d’une gouvernance responsable de l’IA, a déposé un mémoire d’amicus s’opposant à la transition d’OpenAI vers une société d’intérêt public (PBC).
Le dépôt légal, soumis au tribunal de district des États-Unis pour le district nord de Californie, soutient le procès en cours d’Elon Musk et soulève d’importantes préoccupations quant aux implications éthiques du développement de l’intelligence artificielle générale (AGI) axé sur le profit.
« Les tribunaux doivent intervenir pour garantir Le développement de l’IA sert l’intérêt public”, a commenté le président d’Encode, Sneha Revanur. Cette initiative, soutenue par d’éminents chercheurs en IA tels que Geoffrey Hinton, souligne les risques liés à la priorité accordée aux profits des investisseurs plutôt qu’à la sécurité et au bien-être de l’humanité.
Sécurité publique contre profit : le débat central
La dernière annonce d’OpenAI, le 28 décembre 2024, a révélé son projet de transformer sa division à but lucratif en une PBC d’ici 2025. La structure vise à attirer des investissements à grande échelle tout en maintenant l’accent légalement mandaté sur les avantages sociétaux. Cependant, le mémoire d’Encode affirme que cet équilibre est intrinsèquement défectueux, en particulier pour une organisation engagée dans le développement d’AGI.
« Le contrôle sur le développement et le déploiement d’AGI est un actif caritatif qui ne doit être vendu à aucun prix,”Encode a déclaré dans son dossier.
Le mémoire critique la restructuration d’OpenAI comme un écart fondamental par rapport à ses origines à but non lucratif, avertissant que ce changement met en danger des engagements tels que l’arrêt de la concurrence pour aider d’autres pays alignés sur la sécurité. Projets AGI.
Le défi juridique de Musk et le rôle de Microsoft
Le procès d’Elon Musk, déposé à nouveau en août 2024, accuse OpenAI de trahir sa mission à but non lucratif et de consolider son pouvoir avec des entreprises comme Microsoft. Musk affirme que l’investissement de 13 milliards de dollars de Microsoft lui donne une influence indue sur la gouvernance d’OpenAI, la transformant en une filiale axée sur le profit.
Le dossier juridique de Musk allègue que la gouvernance d’OpenAI a été influencée de manière disproportionnée par Microsoft, alignant efficacement ses priorités sur des objectifs axés sur le profit, soulignant les accords d’exclusivité qui restreignent la concurrence et donnent la priorité aux intérêts des actionnaires. Le mémoire d’Encode s’aligne sur ces critiques, soulignant l’incompatibilité des motivations de profit privé avec la responsabilité publique dans le développement d’AGI.
Le rôle de Microsoft en tant qu’investisseur clé et partenaire stratégique complique le récit. Alors que son infrastructure cloud Azure sous-tend les opérations d’OpenAI, les conflits croissants en matière de ressources et le développement interne de modèles d’IA par Microsoft suggèrent des frictions potentielles dans leur relation.
Pressions financières derrière la restructuration
La restructuration d’OpenAI est motivée par des défis financiers croissants. L’organisation prévoit une perte de 5 milliards de dollars pour 2024, avec des déficits cumulés pouvant atteindre 44 milliards de dollars d’ici 2028. Les coûts de calcul annuels à eux seuls devraient grimper jusqu’à 9,5 milliards de dollars d’ici 2026 à mesure que l’organisation développe des modèles d’IA de plus en plus complexes.
Pour Pour relever ces défis, OpenAI a introduit de nouvelles stratégies de revenus, notamment l’abonnement ChatGPT Pro de 200 $/mois pour les utilisateurs professionnels, et des partenariats avec des fabricants de semi-conducteurs comme TSMC et Broadcom pour développer des puces d’IA personnalisées. Ces efforts visent à optimiser l’efficacité informatique et à réduire les coûts de formation, mais ils soulignent également l’ampleur des investissements requis pour soutenir la recherche en AGI.
Le PDG d’OpenAI, Sam Altman, a qualifié la transition d’essentielle, déclarant: « À l’aube de 2025. , nous devrons devenir plus qu’un laboratoire et une startup : nous devons devenir une entreprise durable.”
Redéfinir AGI en termes financiers
Des documents internes révèlent qu’OpenAI a lié la réalisation d’AGI à un bénéfice cumulé de 100 milliards de dollars, un écart significatif par rapport aux définitions traditionnelles mettant l’accent sur les capacités technologiques. Cette mesure financière s’aligne sur les priorités des investisseurs mais soulève des questions éthiques sur la mission à long terme de l’organisation.
Cette référence renforce également la relation d’OpenAI avec Microsoft, qui conserve un accès exclusif aux modèles et à l’infrastructure d’OpenAI jusqu’à ce que le seuil soit atteint. Les critiques, y compris Encode, affirment que cet arrangement est un exemple. les risques liés à la concentration du contrôle d’AGI au sein des intérêts des entreprises.
Contexte historique : l’évolution d’OpenAI
Fondé en 2015 en tant que laboratoire de recherche à but non lucratif, OpenAI visait à faire progresser l’IA. technologies au bénéfice de la société sans les contraintes de rendement financier. Les premiers financements provenaient de géants de la technologie comme Google et Microsoft, permettant des recherches révolutionnaires en robotique, en apprentissage par renforcement et en modèles linguistiques.
Cependant, en 2019, l’escalade des coûts a incité l’organisation à adopter un modèle à profit plafonné, attirant un investissement d’un milliard de dollars de Microsoft et le lancement de produits commerciaux comme ChatGPT. Malgré ces succès, les pressions financières ont continué de s’intensifier, entraînant la dernière transition vers une structure PBC.
Les e-mails dévoilés révèlent des tensions en matière de gouvernance
E-mails internes récemment divulgués a mis en lumière les premiers plaidoyers de Musk en faveur d’une structure à but lucratif. Lors d’un échange en 2017, Musk a proposé de fusionner OpenAI avec Tesla pour obtenir les milliards nécessaires pour concurrencer Google.”Cela nécessite des milliards par an immédiatement, ou oubliez ça”, a écrit Musk.
Ces propositions ont suscité la résistance de co-fondateurs comme Ilya Sutskever, qui a soutenu:”Un contrôle absolu sur AGI est incompatible avec notre mission.”Les tensions qui en ont résulté ont culminé avec le départ de Musk du conseil d’administration d’OpenAI en 2018.
Implications pour la gouvernance et l’éthique de l’IA
La bataille juridique autour de la restructuration d’OpenAI met en évidence des tensions plus larges dans l’industrie de l’IA, où les organisations doivent trouver un équilibre entre innovation, financement et responsabilité éthique. Le dossier d’Encode met l’accent sur l’enjeu de garantir que le développement d’AGI reste aligné sur le bien-être public plutôt que sur les motivations de profit des investisseurs.
À l’approche de l’audience du tribunal du 14 janvier, le résultat façonnera non seulement la trajectoire d’OpenAI, mais influencera également les modèles de gouvernance à travers le monde. Secteur de l’IA. L’intervention d’Encode amplifie l’appel à la transparence et à la responsabilité publique dans l’un des débats technologiques les plus importants du 21e siècle.
