A medida que Operai lanza el nuevo modo de generación de imágenes GPT-4O a los usuarios de ChatGPT de nivel libre, la compañía también está experimentando con técnicas de marca de agua visibles e invisibles para ayudar a identificar mejor las imágenes generadas por IA. La marca de agua visible, que aparece como una etiqueta de”ImagenGen”, se está probando en las salidas de cuentas gratuitas, mientras que los usuarios pagos serán “Informe>”Informe>”Informe>”Informe>”Informe”Úrgano _/”Informe <1 ashine>“Aspermitada>”Aspermitada>””Informe”_Asplayy”_Asplawy <1S-"Aspermitada>“Aspermitada>””Aspermitada”. Para recibir imágenes sin la marca.
Como Tibor Blaho compartido en los hilos, una actualización reciente de la aplicación web de ChatGPT presenta una característica experimental que menciona un”puntero de activos de agua”y proporciona una opción para”Guardar imagen sin marca de agua”.
View en los subprocesos
Las pruebas coinciden con la disponibilidad general de la herramienta de generación de imagen de Chatppt-4o para todos los usuarios, incluidos aquellos en el plan libre, quién tiene acceso a él con el diario de uso diario. La generación de imágenes se limitó previamente a niveles pagados. Ahora, no es solo la tecnología la que se está expandiendo, así que es el esfuerzo de Openi para hacer que su contenido sea más rastreable. Esto señala una estrategia más amplia desde OpenAI para fortalecer la atribución de contenido en medio de un escrutinio de montaje sobre los medios generados por IA.
marcas visibles, metadatos invisibles
mientras que la marca de agua visible es el cambio más obvio, OpenAi también incrusta metadatos en sus imágenes que usan el estándar de C2PA. Estos identificadores legibles por máquina incluyen marcas de tiempo, etiquetas de software y marcadores de origen que ayudan a verificar la procedencia del contenido. El enfoque se basa en el uso previo de OpenAI de metadatos C2PA en la generación de imágenes Dall · E 3, que comenzó a principios de 2024.
Sin embargo, las limitaciones de los sistemas basados en metadatos son bien conocidas. Como Operai ha reconocido previamente manipulaciones simples, como recortar, capturar la captura de pantalla o cargar imágenes a plataformas que despojaron los metadatos, pueden eliminar estos marcadores invisibles. A pesar de estas deficiencias, la compañía apoya los marcos legales que requieren marca de agua. Openai, además de Adobe y Microsoft, ha respaldado el proyecto de ley AB 3211 de California, lo que exigiría el etiquetado de contenido generado por IA para ayudar a mitigar los riesgos de información errónea.
Los experimentos de OpenAi con la fecha de la marca de agua retroceden mucho antes de esta última prueba. Además de su despliegue de metadatos C2PA para Dall · E 3, la compañía también desarrolló un sistema de marca de agua de texto para ChatGPT, anunciado a mediados de 2024. La herramienta incrustó patrones lingüísticos imperceptibles para ayudar a marcar el texto generado por AI. Pero las preocupaciones sobre la precisión y las consecuencias involuntarias llevaron a OpenAi a retrasar el despliegue.
Openai reconoció las limitaciones de la herramienta y la posibilidad de técnicas sofisticadas para evitarlo. La compañía también señaló posibles preocupaciones de equidad para los usuarios que confían en la IA para el soporte de escritura en segundo lugar. La marca de agua podría eliminarse u ofuscarse utilizando estrategias simples como la reformulación o la traducción automática.
Estos esfuerzos anteriores proporcionan un contexto esencial para la prueba de marca de agua CHATGPT-4O. Al combinar indicadores visibles e invisibles, OpenAi está intentando alcanzar un término medio entre la usabilidad y la trazabilidad.
en toda la industria se mueve hacia la atribución
OpenAi no está solo para volver a repensar la autenticación de contenido. Otros gigantes tecnológicos han tomado medios paralelos para marcar medios generados por AI. En febrero de 2025, Google amplió su sistema Synthid, desarrollado originalmente por DeepMind, a Google Photos. La tecnología ahora se aplica a las imágenes editadas, así como a las que se generan completamente, incrustando marcas de agua imperceptibles directamente en datos de píxeles. Synthid puede sobrevivir a las transformaciones básicas como el cambio de tamaño o el filtrado de luz, pero es menos efectivo contra ediciones pesadas o cultivos.
Microsoft también adoptó la marca de agua en septiembre de 2024 a través de su servicio Azure OpenAi, incrustando metadatos firmados criptográficamente en imágenes generadas por Dall · E. Estas entradas de metadatos anotan la fuente de generación, la fecha de creación y el identificador de software. El sistema es parte de una iniciativa más amplia que involucra asociaciones con Adobe, Truepic y la BBC para estandarizar la autenticación de contenido en las plataformas.
meta, mientras tanto, adoptó un enfoque más directo. En febrero de 2024, la compañía lanzó marcas de agua visibles obligatorias en contenido generado por IA en Facebook, Instagram e hilos. La etiqueta”imaginada con IA”aparece en cualquier imagen creada por las herramientas de Meta o modelos de terceros como Midjourney y Dall · E. Meta ha señalado que pronto requerirá una divulgación similar para el video y el audio sintéticos, con posibles acciones de aplicación de la aplicación para incumplimiento.
Limitaciones técnicas y desafíos de investigación
A pesar de la creciente adopción, la marca de agua todavía tiene debilidades. En octubre de 2023, investigadores de la Universidad de Maryland publicaron un estudio que examina los límites de la marca de agua de la imagen de IA. Sus hallazgos mostraron que los métodos de marca de agua comunes pueden ser derrotados por técnicas adversas.
Por ejemplo, un proceso llamado purificación de difusión, donde se agrega el ruido gaussiano a una imagen y luego se denomina, puede eliminar las marcas de agua imperceptibles de las imágenes generadas. Más preocupante es que los atacantes pueden”falsificar”una marca de agua en una imagen sin marcar, lo que hace que parezca generarse por IA cuando no lo es.
En su artículo, el equipo también describió una compensación de detección: mejorar la precisión para evitar falsos negativos (faltando una marca de agua) aumenta el riesgo de falsas positivas (contenido no marcado). Estos hallazgos sugieren que la marca de agua por sí sola puede no ser una red de seguridad confiable contra los medios manipulados o la información errónea.
La transparencia de equilibrio con la usabilidad
La decisión de limitar la marca de agua”ImageGen”visible a los usuarios gratuitos ha provocado preguntas sobre la coherencia. Si los suscriptores pagados continuarán disfrutando de las salidas sin marcas de agua, esto creará un sistema de dos niveles que podría complicar el seguimiento y la moderación de contenido en todas las plataformas. Una imagen sin una etiqueta visible podría circular más libremente, independientemente de si está generada por IA.
La estrategia de doble capa de OpenAI, combinando marcas visibles con metadatos, puede reflejar un intento de mitigar estos problemas sin hacer que las compensaciones sean demasiado duras para la usabilidad. Sin embargo, a medida que los medios sintéticos proliferan, los sistemas de marca de agua probablemente necesitarán evolucionar aún más para seguir siendo efectivos. Aún no está claro si el equilibrio actual cumple con las expectativas de los reguladores, plataformas y usuarios.
.
