O Google ampliou sua tecnologia de marca d’água de IA, SynthID, para incluir texto e vídeo gerados por IA. Este anúncio foi feito durante a conferência de desenvolvedores Google I/O 2024, onde o CEO da DeepMind Demis Hassabis apresentou o sistema aprimorado. Inicialmente projetado para imagens e áudio gerados por IA, o SynthID agora estende seus recursos para formatos de mídia adicionais, melhorando a identificação de conteúdo criado por IA.
Novos recursos do SynthID
O SynthID, que foi introduzido pela primeira vez em agosto do ano passado, inicialmente incorporou marcas d’água invisíveis em imagens geradas por IA. Estas marcas d’água são indetectáveis ao olho humano, mas podem ser identificadas por sistemas especializados. Ao contrário de outros protocolos de marca d’água, como o C2PA, que usam metadados criptográficos, o SynthID emprega um método de impressão exclusivo. A atualização mais recente permite que o SynthID marque vídeos e textos gerados por IA, expandindo seu escopo e utilidade.
[conteúdo incorporado]
Como funciona o SynthID
O SynthID para texto foi projetado para complementar a IA amplamente disponível modelos de geração de texto e podem ser implantados em escala. Ele ajusta a pontuação de probabilidade dos tokens gerados por um grande modelo de linguagem, criando um padrão que serve como marca d’água. Este método é menos eficaz nas respostas a solicitações factuais devido a menos oportunidades de ajustar a distribuição de tokens sem afetar a precisão factual. Para vídeo, o SynthID baseia-se em seu método de marca d’água de imagem e áudio para incluir todos os quadros nos vídeos gerados. Essa abordagem inovadora incorpora uma marca d’água imperceptível sem afetar a qualidade, a precisão, a criatividade ou a velocidade do processo de geração de texto ou vídeo.
Importância da marca d’água de IA
A necessidade de colocar marcas d’água no conteúdo gerado por IA aumentou à medida que a tecnologia se tornou mais predominante. As ferramentas de IA têm sido utilizadas indevidamente para atividades maliciosas, incluindo a difusão de desinformação política, a fabricação de declarações e a criação de conteúdo explícito não consensual. A ferramenta aprimorada SynthID visa mitigar esses riscos, fornecendo um método confiável para identificar material gerado por IA, apoiando assim os esforços para manter a integridade e a autenticidade do conteúdo.
A Microsoft já marca água nas imagens geradas pelo Bing Image Creator. A adição da marca d’água tem como objetivo ajudar os usuários a identificar conteúdo gerado por IA. A Meta introduziu marcas d’água de IA obrigatórias em suas plataformas. A OpenAI também adicionou marca d’água -um método de adicionar metadados ao conteúdo digital para estabelecer sua origem — para reforçar as medidas de segurança contra deepfakes produzidos por seus modelos de IA.
Proteções governamentais e da indústria
O SynthID faz parte de uma iniciativa mais ampla para desenvolver proteções contra o uso indevido da tecnologia de IA. A administração Biden orientou as agências federais a estabelecerem diretrizes para o uso de IA, enfatizando a importância de tais medidas de proteção. Os esforços do Google com o SynthID estão alinhados com essas diretrizes, com o objetivo de criar um ambiente digital mais seguro à medida que a IA continua a evoluir.
A partir de hoje, todos os vídeos gerados pela Veo no VideoFX terão marca d’água do SynthID. Ainda neste verão, o Google planeja abrir o SynthID para marcas d’água de texto, permitindo que os desenvolvedores construam com essa tecnologia e a incorporem em seus modelos. Além disso, o Google publicará um artigo de pesquisa detalhado sobre sua tecnologia de marca d’água de texto e atualizará seu kit de ferramentas de IA generativa responsável para incluir SynthID.
