Microsoft está trazando una línea dura con el contenido para adultos generado por IA. El jefe de IA de la compañía, Mustafa Suleyman, dijo el jueves que la empresa no creará servicios para”simulados”. erótica.”
Hablando en la Cumbre del Consejo Internacional Paley en Menlo Park, California, sus comentarios marcan una clara división con su socio clave OpenAI, que la semana pasada anunció que permitiría dicho contenido para adultos verificados en ChatGPT.
La postura de Microsoft indica un enfoque más cauteloso hacia la seguridad de la IA y alinea al gigante tecnológico con las nuevas leyes estatales que regulan los robots acompañantes de IA, destacando una creciente división en la industria sobre cómo manejar los usos sensibles de la IA.
Microsoft traza una línea dura sobre la IA erótica y se separa de OpenAI
En un movimiento En una señal de una importante divergencia política con respecto a su socio de IA más cercano, Microsoft se ha comprometido públicamente a evitar el desarrollo de chatbots eróticos.
En la Cumbre del Consejo Internacional de Paley en Menlo Park, el CEO de IA de Microsoft, Mustafa Suleyman, fue inequívoco sobre la dirección de la compañía.
“Ese simplemente no es un servicio que vamos a brindar”, afirmó Suleyman, y agregó: “Otras empresas construirán eso.”Consideró la creación de dicha IA como un riesgo significativo y enfatizó la necesidad de una moderación deliberada.”Esto es muy peligroso y creo que deberíamos tomar decisiones conscientes para evitar ese tipo de cosas”.
Los comentarios de Suleyman contrastan marcadamente con la posición expresada recientemente por OpenAI. Hace poco más de una semana, el director ejecutivo de OpenAI, Sam Altman, anunció un cambio de política para permitir contenido erótico restringido por edad en ChatGPT.
Altman defendió la medida posicionando a su empresa como un proveedor de plataforma neutral y afirmó:”no somos la policía moral elegida del mundo”. Su razonamiento se centró en la autonomía del usuario para los adultos a medida que la IA se integra más en la vida diaria.
Una brecha filosófica cada vez mayor entre socios
Detrás de este desacuerdo público se esconde una asociación compleja que muestra signos de tensión. Microsoft, un importante inversor y proveedor de nube para OpenAI, se está centrando cada vez más en sus propios servicios de IA, en particular su asistente Copilot.
La postura de la compañía respecto del erotismo se alinea con una estrategia más amplia para construir lo que llama”IA centrada en el ser humano”.
Esta estrategia se puso de manifiesto a principios de esta semana con el anuncio de nuevas características de Copilot, incluido un compañero animado llamado Mico.
Su El objetivo, según Microsoft, es crear IA que profundice la conexión humana y gane confianza, una visión que aparentemente entra en conflicto con el desarrollo de IA para relaciones íntimas.
El propio Suleyman ha argumentado anteriormente en contra de la creación de servicios”aparentemente conscientes”, una categoría que ahora sugiere que incluye la tendencia hacia la IA erótica.
Los analistas ven esto como evidencia de una creciente brecha filosófica y estratégica. Si bien OpenAI traspasa los límites de la IA orientada al consumidor, incluso en áreas controvertidas, Microsoft parece estar reforzando su marca como proveedor de tecnología responsable y centrado en la empresa.
Estos diferentes enfoques sugieren un futuro en el que las dos empresas, aunque sigan siendo socias, compitan más directamente por diferentes segmentos del mercado de IA.
La industria se enfrenta a la seguridad y la regulación en medio del contenido de IA. Crisis
La aclaración de Suleyman se produce cuando toda la industria tecnológica enfrenta una crisis por la proliferación de material explícito generado por IA, y los reguladores están comenzando a tomar nota.
Una nueva ley de California, SB 243, ahora regula directamente los “chatbots complementarios”, exigiendo una restricción de edad estricta y prohibiendo el contenido sexual explícito para menores. La política de Microsoft se alinea claramente con este marco legal emergente.
El problema del contenido explícito generado por IA está muy extendido. Meta se enfrenta actualmente a una demanda masiva de 359 millones de dólares que le acusa de piratear películas para adultos con derechos de autor para entrenar su IA de generación de vídeos.
Mientras tanto, xAI de Elon Musk ha enfrentado críticas por su chatbot Grok que genera deepfakes no consensuales.
El giro de OpenAI es especialmente controvertido dada su historia reciente. La empresa no implementó controles de seguridad más estrictos hasta septiembre, después de que los padres de un adolescente que se suicidó presentaran una demanda.
El abogado de la familia, Jay Edelson, fue crítico con la respuesta de la empresa en ese momento. afirmando que”en lugar de tomar medidas de emergencia para retirar un producto peligroso conocido, OpenAI hizo vagas promesas de hacerlo mejor”.
Dada esta historia, el giro ha generado fuertes críticas de defensores de la seguridad y líderes empresariales como Mark Cuban, quienes cuestionaron la viabilidad de una verificación de edad efectiva.”No veo cómo OpenAI puede envejecer la puerta con suficiente éxito”, comentó Cuban, expresando su preocupación por el potencial adictivo de las relaciones con la IA.
Primero. No estoy diciendo que debamos prohibirlo. Dije que fue un error. Eso perjudicará el negocio de OpenAI
Segundo: lo diré de nuevo. Esto no se trata de pornografía. Se trata de que los niños desarrollen”relaciones”con un LLM que podría llevarlos en cualquier número de direcciones muy personales… https://t.co/zoo7XCzYbK
— Mark Cuban (@ban) 15 de octubre de 2025
Para Microsoft, mantenerse alejado de esta controversia parece ser una decisión comercial calculada, que prioriza la seguridad y cumplimiento normativo sobre el potencial de participación en un mercado de alto riesgo.
