A OpenAI atualizou sua API de geração de imagens DALL-E 3 para incluir marca d’água, permitindo a identificação de imagens geradas por IA. A organização incluiu uma marca d’água transparente que traz o logotipo da Coalition for Content Provenance and Authenticity (C2PA), a data de criação da imagem e permanece visível sem comprometer a qualidade da imagem ou a velocidade de criação. Essa mudança facilita aos usuários reconhecer se uma imagem foi criada por inteligência artificial ou manualmente por um artista humano.
Desafios na detecção de proveniência
No entanto, as preocupações permanecem sobre a facilidade com que essas marcas d’água podem ser contornadas. A OpenAI reconhece que os usuários podem alterar as informações de procedência simplesmente cortando ou fazendo capturas de tela das saídas do DALL-E, o que pode efetivamente remover a marca d’água ou manipular os pixels da imagem. Além disso, as atuais plataformas de mídia social geralmente eliminam metadados como C2PA no upload de imagens, o que apresenta complicações adicionais no rastreamento da autenticidade das imagens on-line.
Esforços de transparência em todo o setor
Paralelamente aos esforços da OpenAI, a Microsoft incorporou de forma semelhante o padrão C2PA no Bing Image Creator, apresentando uma marca d’água digital invisível para certificar que as imagens são geradas por IA. Além disso, a Meta está tomando medidas em direção à transparência, rotulando o conteúdo carregado no Facebook, Instagram e Threads que foi produzido usando tecnologia de IA, sinalizando um movimento mais amplo dentro da indústria de tecnologia para desenvolver padrões claros para rotulagem de conteúdo de IA. Essas iniciativas refletem um compromisso crescente de fornecer aos usuários ferramentas para discernir a origem do conteúdo digital diante dos avanços dos algoritmos de criatividade de IA.
A política visa ajudar os usuários a reconhecer quando o conteúdo que estão visualizando pode não representar a realidade, mas é antes o produto de algoritmos de aprendizado de máquina capazes de gerar imagens fotorrealistas. A Meta exibirá a tag “Imagined with AI”em imagens criadas usando seu recurso Meta AI e planeja fazer o mesmo com mídia gerada por ferramentas de outras empresas. Além disso, a Meta em breve exigirá que os usuários divulguem quando estiverem compartilhando imagens realistas criadas por IA. vídeos ou áudio. A não conformidade, como não fornecer a divulgação adequada, pode resultar em ações contra a conta do usuário, incluindo avisos ou remoções de postagens.
