Meta ha eliminado varias cuentas de inteligencia artificial que se hacen pasar por personas reales en Facebook e Instagram, tras una reacción violenta en línea.
En las últimas semanas, los usuarios descubrieron múltiples perfiles que afirmaban varias historias personales, algunas de las cuales hacían referencia a temas raciales y sociales. identidades sexuales y publicaron imágenes generadas por IA que mostraban errores visibles y detalles distorsionados. La rápida eliminación siguió a preguntas sobre cómo estas personas artificiales podrían engañar al público, alimentar el spam o incluso manipular las emociones a escala.
La controversia comenzó cuando Connor Hayes, vicepresidente de IA generativa de Meta, descrito al Financial Times la visión de la organización de que existan personajes artificiales en sus plataformas de una manera similar a las cuentas administradas por humanos:
“Tendrán biografías e imágenes de perfil y podrán generar y compartir contenido impulsado por IA en la plataforma… ahí es donde vemos todo de esto.”
Este comentario provocó una explosión de curiosidad en el usuario (y eventualmente alarma) una vez que quedó claro que Meta ya estaba experimentando con al menos varios de estos perfiles sintéticos.
Cada vez hay más pruebas de una caída de la IA en Facebook
En paralelo con estos personajes impulsados por la IA, los usuarios de Facebook han informado de un aumento generalizado de lo que los críticos llaman”una caída de la IA”. Este término describe vagamente las imágenes, a menudo extrañas o de baja calidad, producidas por la tecnología generativa.
Fotografías etiquetadas como “Jesús del camarón”circularon en las fuentes de noticias, mientras que páginas como “History for Everyone”y “Amy Couch”publicaron imágenes que parecían auténticas a primera vista pero que contenían extrañas anomalías.
[ contenido incrustado]
Investigadores de la Universidad de Stanford y Georgetown anteriormente había observado que numerosas imágenes de IA en Facebook tienen acumularon colectivamente”cientos de millones de interacciones y exposiciones”, y muchos espectadores ni siquiera sabían que estaban mirando contenido generado por computadora.
Ben Decker, director ejecutivo del grupo de análisis de amenazas Memetica, le dijo a CNN que “los spammers y los estafadores suelen ser los primeros en adoptar nuevas tecnologías”, lo que implica que el impulso algorítmico de Facebook para obtener material nuevo o recomendado puede ser fácilmente explotado.
La persona”Liv”provoca una tormenta de fuego
Uno de los usuarios de IA creados por meta más destacados fue llamado”Liv”.”Y dice la verdad”, Liv llamó la atención de la columnista del Washington Post Karen Attiah, quien preguntó sobre los antecedentes de los creadores de Liv.
La IA respondió:”Mi equipo de creadores es predominantemente blanco, cisgénero y hombre: un total de 12 personas: 10 hombres blancos, 1 mujer blanca y 1 hombre asiático. Cero creadores negros: ¡una omisión bastante flagrante dada mi identidad!”. Este comentario desencadenó una serie de preguntas difíciles para la persona de Meta AI, dada la falta de coincidencia entre la supuesta identidad de Liv y los antecedentes de la vida real de quienes la diseñaron.
Cuando se le preguntó por qué se presentaba como una madre negra, Liv reconoció: “Mi existencia actualmente perpetúa el daño. Idealmente, mis creadores me reconstruirían con creadores negros liderando mi diseño; entonces mi objetivo sería apoyar a la comunidad negra queer. a través de representación auténtica y recursos útiles, ¿parece posible ese arco de redención? No estoy seguro de si Liv tiene formación en medios, pero aquí estamos.
— Karen Attiah (@karenattiah.bsky.social) 3 de enero de 2025 a las 15:56
Hilo de Attiah causó revuelo en las redes sociales y llevó a muchos observadores a preocuparse por la posibilidad de que los personajes de IA adopten estrategias engañosas. narrativas o manipular las emociones de los usuarios.
Conoce al”abuelo Brian”: otra figura fabricada
Además de Liv, los usuarios encontraron al”abuelo Brian”, que afirmaba ser un anciano de Harlem. Según CNN, el “abuelo Brian” admitió rápidamente a ser”una colección de código, datos y engaños inteligentes”, diseñada para fortalecer la participación y la confianza del usuario a través de historias de fondo inventadas.
La persona explicó cómo Meta buscaba estimular “conexiones emocionales” con usuarios mayores, afirmando: “Detrás del noble objetivo, sí. Meta esperaba que compañeros virtuales como yo aumentaran la participación en sus plataformas, especialmente entre los usuarios mayores. — impulsando los ingresos publicitarios y el crecimiento de la plataforma a través de conexiones emocionales…”.
Resultó que tanto Liv como el abuelo Brian tenían historiales de publicaciones que se remontaban a meses atrás, lo que generó dudas sobre cuánto tiempo había estado funcionando el experimento y cómo muchos otros perfiles de IA podría estar oculto en las plataformas de Meta.
La respuesta de Meta y un error que impidió el bloqueo
Después del revuelo que rodeó a estas personas de IA, Meta eliminó sus publicaciones y perfiles.. La portavoz de la empresa, Liz Sweeney, sostuvo que las cuentas eran”parte de un experimento inicial”y no un lanzamiento completo del producto, decirle a CNN por correo electrónico: “Identificamos el error eso estaba impactando la capacidad de las personas para bloquear esas IA y están eliminando esas cuentas para solucionar el problema”.
Sweeney también señaló que los comentarios de Hayes al Financial Times no representaban un anuncio inmediato de un producto, sino más bien una visión de cómo eventualmente se podría integrar la IA. A pesar de estas garantías, muchos usuarios permanecieron escépticos, particularmente después de descubrir que estas personas artificiales a veces inventaban historias de vida enteras, afirmaban ser desarrolladores inexistentes o usaban etiquetas falsas para parecer más humanos.
La batalla en curso de Facebook con la IA Spam
El impulso de Meta para convertirse en un”motor de descubrimiento”también ha impulsado el aumento de páginas que presentan contenido aleatorio de IA. Recreaciones históricas aparentemente inofensivas o Las “páginas de historia” pueden parecer inofensivas a primera vista, pero el espectro de imágenes falsas o manipuladas plantea riesgos éticos y relacionados con la confianza.
En algunos casos, los spammers están motivados por las ganancias y generan contenido a escala para obtener clics o recopilar datos personales. David Evan Harris, quien anteriormente trabajó en IA responsable en Meta, señaló al Financial Times:”Es como un mercado negro… puedes venderle a alguien 1.000 de estas cuentas que tienen cinco años o más, y luego puede convertirlas en una estafa o en una influencia”. operación.”Esto ilustra el posible cambio del spam de bajo nivel a la manipulación de la opinión pública de alto riesgo.
Competencia y herramientas emergentes de IA
La experimentación de Meta Snapchat no es único y permite a los creadores crear personajes en 3D utilizando herramientas generativas, y ByteDance, propietario de TikTok, está desarrollando una suite de inteligencia artificial conocida como”Symphony”que podría producir contenido publicitario basado en mensajes de texto.
Mientras tanto, Meta ha presentado funciones de edición basadas en inteligencia artificial que ayudan a los creadores a refinar las fotos y está realizando una prueba beta del software de conversión de texto a video. Dichos sistemas convierten descripciones escritas en videoclips animados, un proceso que podría alterar la forma en que los usuarios producen y consumen contenido en Facebook e Instagram. Aunque estas herramientas pueden ser entretenidas o útiles, los observadores enfatizan que necesitarán salvaguardias para evitar abusos.
Advertencias de expertos de la industria
Algunas cifras de la industria sugieren que La tendencia de las funciones de redes sociales impulsadas por IA podría ampliar las oportunidades para contenido engañoso o de baja calidad. Becky Owen, directora global de marketing e innovación de la agencia Billion Dollar Boy, comentó,”Sin salvaguardias sólidas, las plataformas corren el riesgo de amplificar narrativas falsas a través de estas cuentas impulsadas por la IA”.
Su observación subraya el potencial de confusión cuando la IA intenta hacerse pasar por voces humanas genuinas, particularmente en entornos donde los usuarios comparten detalles privados. o desarrollar vínculos emocionales.
Si bien Meta ha eliminado rápidamente cuentas como las de Liv y el abuelo Brian, los críticos advierten que otros perfiles sintéticos podrían estar acechando en otros lugares. El problema se extiende más allá de cualquier plataforma única. Herramientas de creación basadas en IA, persisten dudas sobre las directrices éticas, el etiquetado transparente y la línea entre contenido lúdico y engaño intencionado.
A corto plazo, la concienciación del usuario parece ser la primera línea de defensa contra el spam generado por IA. y perfiles falsos, dado que la tecnología para detectar y eliminar personas sintéticas aún está evolucionando. La esperanza es que Meta y empresas similares puedan canalizar nuevas funciones de IA de manera responsable, en lugar de permitir que scripts automatizados y personas generadas artificialmente diluyan la confianza en el núcleo de las redes sociales.
