O Google está expandindo sua tecnologia de marca d’água sintida para incluir fotos do Google, adicionando marcadores digitais invisíveis a imagens que foram alteradas com ferramentas movidas a IA.
Isso marca uma etapa importante nos esforços do Google para melhorar a transparência da IA à medida que a edição de conteúdo assistida por IA se torna mais sofisticada. A atualização, que é lançada nesta semana, será aplicada a imagens modificadas usando o Magic Editor, um recurso de edição de fotos acionado por IA disponível em dispositivos Pixel. As preocupações aumentam sobre a propagação da mídia alterada. A empresa apresentou anteriormente os rótulos de AI baseados em metadados no Google Fotos em outubro de 2024, mas esse método exigia que os usuários verificassem os detalhes da imagem manualmente. Agora, com o Synthid, uma marca d’água oculta será incorporada no nível do pixel, dificultando a retribuição da IA de imagens modificadas. 2024/05/Google-Deepmind-synthid-ai.jpg”>
Como o Synthid funciona e por que o Google está expandindo-o
Synthid, desenvolvido pelo Google DeepMind, foi projetado Para marcar o conteúdo gerado por IA e com editado AI sem afetar sua aparência visual. Diferentemente das marcas d’água tradicionais, que geralmente são removidas quando as imagens são redimensionadas ou compactadas, o Synthid cria um identificador invisível que permanece detectável na maioria das edições padrão.
A tecnologia foi usada inicialmente para rastrear imagens criadas pelo modelo Imagen 3 do Google e agora, sua expansão para imagens modificadas pela IA visa fechar uma brecha na verificação de conteúdo de IA.
O A marca d’água será legível usando a ferramenta”Sobre esta imagem”do Google, que fornece aos usuários informações sobre a origem de uma imagem e quaisquer modificações baseadas em IA. No entanto, o Google reconhece que o sintídeo não é infalível-modificações extraordinárias, como cultivo ou filtragem agressiva, pode Reduza sua eficácia.
Cultives de informações de informação e desafios de transparência de IA
A decisão de estender a marca d’água da IA vem em meio a preocupações crescentes sobre a desinformação gerada pela IA A mídia já foi usada em campanhas políticas, deepfakes de celebridades e publicidade enganosa.//arxiv.org/pdf/2310.00076.pdf”> Estudar da Universidade de Maryland Descobriu que as técnicas adversárias geralmente podem retirar as marcas d’água da IA das imagens, reduzindo sua confiabilidade como uma ferramenta para autenticação. > A Meta também introduziu medidas de transparência de IA, adicionando rótulos obrigatórios gerados por IA no conteúdo no Facebook e Instagram. A empresa deu um passo adicional com sua estrutura de selo de vídeo, que aplica marcas d’água neurais que persistem mesmo após as modificações.
Enquanto isso, a Microsoft incorporou marcas d’água visíveis em imagens geradas pela IA do Bing Image Creator, enquanto o OpenAI implementou os metadados C2PA em imagens criadas por Dall-e 3.
Enquanto essas iniciativas melhoram Transparência, eles também vêm com limitações. As marcas d’água e os rótulos de metadados podem ser removidos, alterados ou ignorados, tornando-os uma solução incompleta para o problema de desinformação. Isso é particularmente preocupante em uma época em que as ferramentas de edição movidas a IA tornam mais fácil do que nunca manipular a mídia digital. > A expansão do sintídeo não é apenas uma jogada voluntária do Google-isso ocorre em meio à crescente pressão dos governos e reguladores para garantir que o conteúdo gerado pela IA seja identificável.
em outubro de 2023, o A Biden Administration emitiu uma ordem executiva que instruiu as empresas de tecnologia a estabelecer sistemas de marca d’água e autenticação mais fortes para a mídia gerada pela IA. A ordem citou preocupações com a interferência eleitoral orientada pela IA, os golpes de Deepfake e a rápida disseminação de desinformação sintética.-Conteúdo gerado e implementar mecanismos de detecção. A versão final da legislação, divulgada em julho de 2024 e em vigor desde este mês, impõe penalidades às empresas que não cumprem as medidas de autenticação de conteúdo. O debate sobre a eficácia
Enquanto o movimento do Google para expandir o Synthid para imagens editadas é um passo em direção a uma maior transparência, ele não aborda completamente a questão mais ampla da verificação de conteúdo gerada pela IA. A IA WaterMarking, incluindo sintid, as credenciais de conteúdo da Adobe e os metadados C2PA do OpenAI, podem fornecer assinaturas digitais importantes, mas dependem da suposição de que plataformas e usuários verificarão para eles. nem sempre persistente. O conteúdo gerado pela IA é frequentemente alterado, cortado ou reprocessado antes de serem compartilhados on-line, e os rótulos baseados em metadados podem ser despojados quando as imagens são enviadas nas mídias sociais.
Como resultado, enquanto a marca d’água é uma ferramenta valiosa, muitos especialistas argumentam que deve ser complementada por métodos de verificação criptográfica e rastreamento mais forte de proveniência. Eles não fornecem segurança absoluta contra a manipulação de conteúdo gerada pela IA”, observou os pesquisadores da Universidade de Maryland em seu estudo. > Com o aumento do conteúdo gerado pela IA, empresas e reguladores estão explorando métodos adicionais para autenticação além da marca d’água. P>
A última expansão do Google do Synthid mostra que as empresas de tecnologia estão reconhecendo a necessidade de autenticação de conteúdo de IA mais forte.