La administración Biden ha pedido al sector tecnológico y a las instituciones financieras que aborden el creciente problema de las imágenes sexuales abusivas generadas por IA. Las nuevas herramientas de inteligencia artificial generativa han facilitado la creación de imágenes explícitas, realistas y no consensuadas, que luego se comparten ampliamente en las redes sociales y salas de chat. Las víctimas, incluidas celebridades y menores, enfrentan desafíos importantes para eliminar estas imágenes una vez que están en línea.
Llamado a la cooperación voluntaria
La administración está buscando cooperación voluntaria de las empresas para implementar medidas destinadas a frenar la creación, distribución y monetización de imágenes de IA no consensuadas. Este llamamiento está dirigido no sólo a los desarrolladores de IA sino también a los procesadores de pagos, las instituciones financieras, los proveedores de servicios en la nube y los guardianes de las tiendas de aplicaciones móviles. El objetivo es desmantelar los incentivos financieros detrás del abuso sexual basado en imágenes, con especial atención en los sitios web que anuncian imágenes explícitas de menores.
Arati Prabhakar, principal asesor científico de Biden y director de la Oficina de Investigación de la Casa Blanca. Política de ciencia y tecnología, destacó la rápida difusión de imágenes no consensuales impulsadas por herramientas de inteligencia artificial , que ha tenido un profundo impacto en las mujeres y las niñas. Destacó la urgente necesidad de que las empresas tomen medidas rápidas.
Se necesita apoyo legislativo
Si bien la administración presiona para lograr compromisos voluntarios, también reconoce la necesidad de respaldo legislativo. Jennifer Klein, directora del Consejo de Política de Género de la Casa Blanca, enfatizó que si bien los compromisos de las empresas son esenciales, el Congreso también debe tomar medidas. Las leyes actuales criminalizan la creación y posesión de imágenes sexuales de niños, incluso si son generadas por IA. Sin embargo, hay poca supervisión de las herramientas y servicios que permiten la creación de tales imágenes.
Los esfuerzos de la administración se basan en compromisos voluntarios anteriores obtenidos por las principales empresas de tecnología para implementar salvaguardias para los nuevos sistemas de IA. Además, Biden ha firmado una orden ejecutiva para guiar el desarrollo de la IA para garantizar la seguridad pública, abordando preocupaciones más amplias sobre la IA, incluida la seguridad nacional y las imágenes de abuso infantil generadas por la IA.
Respuesta y desafíos de la industria
El sector privado ha respondido con compromisos de empresas como Microsoft, que ha reforzado las salvaguardias después de que circularan en línea imágenes de Taylor Swift generadas por IA. Las escuelas también están lidiando con los desnudos falsos de estudiantes generados por IA, a menudo creados y compartidos por otros adolescentes.
El documento de la administración pide a los proveedores de servicios en la nube y a las tiendas de aplicaciones móviles que restrinjan las aplicaciones diseñadas para crear o alterar imágenes sexuales. sin consentimiento. También subraya la necesidad de que los sobrevivientes tengan la capacidad de eliminar fácilmente imágenes no consensuadas de plataformas en línea.
Los fiscales federales ya han tomado medidas contra personas que utilizan herramientas de inteligencia artificial para crear imágenes explícitas de menores. Por ejemplo, un hombre de Wisconsin ha sido acusado por utilizar Difusión estable para generar dichas imágenes.
