Encode, una organización sin fines de lucro dirigida por jóvenes que aboga por una gobernanza responsable de la IA, ha presentado un escrito amicus curiae oponiéndose a la transición de OpenAI a una Corporación de Beneficio Público (PBC).
La presentación legal, presentada ante el Tribunal de Distrito de EE. UU. para el Distrito Norte de California, apoya la demanda en curso de Elon Musk y plantea importantes preocupaciones sobre las implicaciones éticas del desarrollo de la inteligencia general artificial (AGI) con fines de lucro.
“Los tribunales deben intervenir para garantizar que el desarrollo de la IA sirva al interés público”, comentó el presidente de Encode Sneha Revanur, la iniciativa Respaldada por destacados investigadores de IA como Geoffrey Hinton, la presentación subraya los riesgos de priorizar las ganancias de los inversores sobre la seguridad y el bienestar de la humanidad.
Seguridad pública versus ganancias: el debate central
El último anuncio de OpenAI el 28 de diciembre de 2024 reveló su plan para hacer la transición de su división con fines de lucro a una PBC mediante 2025. Esta estructura tiene como objetivo atraer inversiones a gran escala manteniendo al mismo tiempo un enfoque legalmente obligatorio en el beneficio social. Sin embargo, el escrito de Encode sostiene que este equilibrio es inherentemente defectuoso, especialmente para una organización comprometida con el desarrollo de AGI.
“El control sobre el desarrollo y la implementación de AGI es un activo caritativo que no debe venderse a ningún precio,”declaró Encode en su presentación.
El escrito critica la reestructuración de OpenAI como una desviación fundamental de sus orígenes sin fines de lucro, advirtiendo que el cambio pone en peligro compromisos como detener la competencia para ayudar a otros alineados con la seguridad. Proyectos AGI.
El desafío legal de Musk y el papel de Microsoft
La demanda de Elon Musk, presentada nuevamente en agosto de 2024, acusa a OpenAI de traicionar su misión sin fines de lucro y consolidar su poder con Las partes interesadas corporativas como Microsoft afirman que la inversión de 13 mil millones de dólares de Microsoft le otorga una influencia indebida sobre la gobernanza de OpenAI, transformándola en una subsidiaria con fines de lucro.
La presentación legal de Musk alega que la gobernanza de OpenAI se ha visto influenciada de manera desproporcionada por Microsoft, alineando efectivamente sus prioridades con objetivos impulsados por las ganancias, destacando acuerdos de exclusividad que restringen la competencia y priorizan los intereses de los accionistas. El informe de Encode se alinea con estas críticas, enfatizando la incompatibilidad de los motivos de lucro privado con la responsabilidad pública en el desarrollo de AGI.
El papel de Microsoft como inversionista clave y socio estratégico complica la narrativa. Si bien su infraestructura de nube Azure sustenta las operaciones de OpenAI, las crecientes disputas por recursos y el desarrollo interno de modelos de IA por parte de Microsoft sugieren posibles fricciones en su relación.
Presiones financieras detrás de la reestructuración
La reestructuración de OpenAI está impulsada por crecientes desafíos financieros. La organización proyecta una pérdida de 5 mil millones de dólares para 2024, con déficits acumulados que podrían alcanzar los 44 mil millones de dólares para 2028. Se espera que solo los costos computacionales anuales aumenten a 9,5 mil millones de dólares para 2026 a medida que la organización desarrolle modelos de IA cada vez más complejos.
Para abordar estos desafíos, OpenAI ha introducido nuevas estrategias de ingresos, incluida la suscripción ChatGPT Pro de $ 200 al mes para usuarios empresariales y asociaciones con fabricantes de semiconductores como TSMC y Broadcom para desarrollar IA personalizada. papas fritas. Estos esfuerzos tienen como objetivo optimizar la eficiencia computacional y reducir los costos de capacitación, pero también subrayan la escala de inversión necesaria para sostener la investigación de AGI.
El director ejecutivo de OpenAI, Sam Altman, enmarcó la transición como esencial y afirmó: “A medida que entramos en 2025 , tendremos que convertirnos en algo más que un laboratorio y una startup: tenemos que convertirnos en una empresa duradera”.
Redefiniendo AGI en términos financieros
Documentos internos revelan que OpenAI ha vinculado la realización de AGI a un punto de referencia de ganancias acumuladas de $100 mil millones, una desviación significativa de las definiciones tradicionales que enfatizan las capacidades tecnológicas. Esta métrica financiera se alinea con las prioridades de los inversores, pero plantea preguntas éticas sobre la misión a largo plazo de la organización.
Este punto de referencia también solidifica la relación de OpenAI con Microsoft, que conserva el acceso exclusivo a los modelos e infraestructura de OpenAI hasta que se alcance el umbral. Los críticos, incluido Encode, argumentan que este acuerdo. ejemplifica los riesgos de concentrar el control de AGI dentro de los intereses corporativos.
Contexto histórico: la evolución de OpenAI
Fundada en 2015 como un laboratorio de investigación sin fines de lucro, OpenAI tenía como objetivo avanzar Tecnologías de IA para beneficio social sin las limitaciones de los rendimientos financieros. La financiación inicial provino de gigantes tecnológicos como Google y Microsoft, lo que permitió investigaciones innovadoras en robótica, aprendizaje por refuerzo y modelos de lenguaje.
Sin embargo, en 2019, el aumento de los costos llevó a la organización a adoptar un modelo de ganancias limitadas, atrayendo una inversión de mil millones de dólares de Microsoft y el lanzamiento de productos comerciales como ChatGPT. A pesar de estos éxitos, las presiones financieras han seguido aumentando, impulsando la última transición a una estructura del PBC.
Los correos electrónicos revelados revelan tensiones en materia de gobernanza
Correos electrónicos internos recientemente revelados arrojar luz sobre la defensa inicial de Musk de una estructura con fines de lucro. En un intercambio de 2017, Musk propuso fusionar OpenAI con Tesla para asegurar los miles de millones necesarios para competir con Google.”Esto necesita miles de millones por año inmediatamente, o olvídalo”, escribió Musk.
Estas propuestas provocaron la resistencia de cofundadores como Ilya Sutskever, quien argumentó:”El control absoluto sobre AGI es incompatible con nuestra misión”. Las tensiones resultantes culminaron con la salida de Musk de la junta directiva de OpenAI en 2018.
Implicaciones para la gobernanza y la ética de la IA
La batalla legal sobre la reestructuración de OpenAI resalta tensiones más amplias en la industria de la IA, donde las organizaciones luchan por equilibrar la innovación, la financiación y la responsabilidad ética. La presentación de Encode enfatiza lo que está en juego para garantizar que el desarrollo de AGI siga alineado con el bienestar público en lugar de los motivos de ganancias de los inversores.
A medida que se acerca la audiencia judicial del 14 de enero, el resultado no solo dará forma a la trayectoria de OpenAI sino que también influirá en los modelos de gobernanza en todo el mundo. Sector de la IA. La intervención de Encode amplifica el llamado a la transparencia y la responsabilidad pública en uno de los debates tecnológicos más importantes del siglo XXI.
