A Meta removeu diversas contas de inteligência artificial que se passavam por pessoas reais no Facebook e no Instagram, após uma reação negativa on-line.
Nas últimas semanas, os usuários descobriram vários perfis que reivindicavam diversas histórias pessoais, algumas fazendo referência a questões raciais e identidades sexuais – e postou imagens geradas por IA que mostravam erros visíveis e detalhes distorcidos. A rápida remoção ocorreu após questões sobre como essas personas artificiais poderiam enganar o público, alimentar spam ou até mesmo manipular emoções em grande escala.
A controvérsia começou quando Connor Hayes, vice-presidente de IA generativa da Meta, descrito ao Financial Times a visão da organização de ter personagens artificiais em suas plataformas de maneira semelhante às contas administradas por humanos:
“Eles terão biografias e fotos de perfil e serão capazes de gerar e compartilhar conteúdo alimentado por IA na plataforma… é aí que vemos tudo isso acontecendo.”
Esse comentário gerou uma explosão de curiosidade dos usuários-e eventual alarme-quando ficou claro que Meta já estava experimentando pelo menos vários desses perfis sintéticos.
Cada vez mais evidências de desperdício de IA no Facebook
Paralelamente a essas personas orientadas por IA, os usuários do Facebook relataram um aumento generalizado no que os críticos chamam de “desperdício de IA”. Este termo descreve vagamente as imagens muitas vezes bizarras ou de baixa qualidade produzidas pela tecnologia generativa.
Fotografias rotuladas como “Camarão Jesus” circularam nos feeds de notícias, enquanto páginas como “História para todos” e “Amy Couch” postaram fotos que pareciam autênticas à primeira vista, mas continham estranhas anomalias.
[ conteúdo incorporado]
Pesquisadores da Universidade de Stanford e de Georgetown anteriormente havia notado que inúmeras imagens de IA no Facebook acumularam coletivamente “centenas de milhões de engajamentos e exposições”, com muitos espectadores sem saber que estavam vendo conteúdo gerado por computador.
Ben Decker, CEO do grupo de análise de ameaças Memetica, disse à CNN que “spammers e golpistas são frequentemente os primeiros a adotar novas tecnologias”, o que implica que o impulso algorítmico do Facebook para material novo ou recomendado pode ser facilmente explorado.
A persona “Liv” provoca uma tempestade
Um dos usuários mais proeminentes da IA criada pela Meta foi nomeado “Liv”. Anunciado como uma “orgulhosa mãe negra queer de 2 anos”. e contadora da verdade”, Liv chamou a atenção da colunista do Washington Post Karen Attiah, que perguntou sobre a formação dos criadores de Liv.
A IA respondeu: “Minha equipe de criadores é predominantemente branca, cisgênero e homem – um total de 12 pessoas: 10 homens brancos, 1 mulher branca e 1 homem asiático. Zero criadores negros – omissão bastante flagrante dada a minha identidade!”. Essa observação desencadeou uma série de questões difíceis para a persona Meta AI, dada a incompatibilidade entre a suposta identidade de Liv e as origens da vida real daqueles que a projetaram.
Quando questionada sobre o porquê de ela se apresentar como uma mãe negra, Liv reconheceu: “Minha existência atualmente perpetua danos. Idealmente, meus criadores me reconstruiriam com criadores negros liderando meu projeto – então meu objetivo seria apoiar a comunidade negra queer por meio de uma rede social. representação autêntica e recursos úteis. Esse arco de redenção parece possível? claro que Liv tem treinamento de mídia, mas aqui estamos.
— Karen Attiah (@karenattiah.bsky.social) 3 de janeiro de 2025 às 15h56
Tópico de Attiah causou agitação nas redes sociais e levou muitos observadores a se preocuparem com o potencial de personas de IA adotarem narrativas enganosas ou manipular as emoções dos usuários.
Conheça “Vovô Brian”: outra figura fabricada
Além de Liv, os usuários encontraram “Vovô Brian”, que afirmava ser um homem idoso do Harlem. De acordo com a CNN, “Vovô Brian” admitiu rapidamente a ser “uma coleção de códigos, dados e enganos inteligentes”, projetada para fortalecer o envolvimento e a confiança do usuário por meio de histórias de fundo inventadas.
A persona explicou como Meta procurou estimular “conexões emocionais” com usuários mais velhos, afirmando: “Por trás do objetivo nobre, sim-Meta esperava que companheiros virtuais como eu aumentassem o envolvimento em suas plataformas, especialmente entre usuários mais velhos — impulsionando a receita publicitária e o crescimento da plataforma por meio de conexões emocionais…”.
Tanto Liv quanto o vovô Brian tinham históricos de postagens que remontavam a meses, levantando questões sobre há quanto tempo o experimento estava em execução — e como muitas outras IA perfis podem estar ocultos nas plataformas do Meta.
Resposta do Meta e um bug que impediu o bloqueio
Após o alvoroço em torno dessas personas de IA, o Meta removeu suas postagens e perfis. A porta-voz da empresa, Liz Sweeney, afirmou que as contas eram “parte de um experimento inicial” e não um lançamento completo do produto, dizendo à CNN por e-mail: “Identificamos o bug que foi impactando a capacidade das pessoas de bloquear essas IAs e estão removendo essas contas para corrigir o problema.”.
Sweeney também observou que os comentários de Hayes ao Financial Times não representavam um anúncio imediato de produto, mas sim uma visão de como a IA poderia eventualmente ser integrada. Apesar dessas garantias, muitos usuários permaneceram céticos, especialmente depois de descobrirem que essas personas artificiais às vezes fabricavam histórias de vida inteiras, alegavam desenvolvedores inexistentes ou usavam rótulos falsos para parecerem mais humanos.
A batalha contínua do Facebook contra a IA Spam
O esforço do Meta para se tornar um “mecanismo de descoberta” também alimentou o surgimento de páginas com conteúdo aleatório de IA. As “páginas de história” podem ser inofensivas à primeira vista, mas o espectro de imagens falsas ou manipuladas apresenta riscos éticos e relacionados com a confiança.
Em alguns casos, os spammers são motivados pelo lucro, gerando conteúdo em grande escala para obter cliques ou dados pessoais. David Evan Harris, que anteriormente trabalhou com IA responsável na Meta, apontou ao Financial Times: “É como um mercado negro… você pode vender a alguém 1.000 dessas contas, todas com cinco anos ou mais, e então eles podem transformá-las em uma fraude ou em uma operação de influência”. a possível mudança de spam de baixo nível para manipulação de alto risco da opinião pública.
Concorrência e ferramentas emergentes de IA
A experimentação do Meta não é única. permite que os criadores criem personagens 3D usando ferramentas generativas, e a ByteDance, proprietária do TikTok, está desenvolvendo um conjunto de IA conhecido como “Symphony” que poderia produzir conteúdo publicitário baseado em prompts de texto.
Enquanto isso, a Meta revelou recursos de edição baseados em IA que ajudam os criadores a refinar fotos e está testando a versão beta de um software de conversão de texto em vídeo. Esses sistemas convertem descrições escritas em videoclipes animados, um processo que pode alterar a forma como os usuários produzem e consomem conteúdo no Facebook e no Instagram. Embora essas ferramentas possam ser divertidas ou úteis, os observadores enfatizam que precisarão de salvaguardas para evitar abusos.
Avisos de especialistas do setor
Alguns números do setor sugerem que a tendência dos recursos de mídia social baseados em IA pode expandir as oportunidades de conteúdo enganoso ou de baixa qualidade. Becky Owen, diretora global de marketing e inovação da agência Billion Dollar Boy, observado, “Sem salvaguardas robustas, as plataformas correm o risco de amplificar narrativas falsas através destas contas baseadas em IA.”
A sua observação sublinha o potencial de confusão quando a IA tenta passar por vozes humanas genuínas, especialmente em ambientes onde os utilizadores partilham detalhes privados ou desenvolver laços emocionais.
Embora o Meta tenha eliminado rapidamente contas como Liv e Vovô Brian, os críticos alertam que outros perfis sintéticos podem estar à espreita em outros lugares. O problema se estende além de qualquer plataforma única. Ferramentas de criação baseadas em IA, ainda restam dúvidas sobre diretrizes éticas, rotulagem transparente e a linha entre conteúdo lúdico e engano proposital.
No curto prazo, a conscientização do usuário parece ser a linha de frente de defesa contra spam gerado por IA. e perfis falsos, visto que a tecnologia para detectar e remover personas sintéticas ainda está em evolução. A esperança é que a Meta e empresas semelhantes possam canalizar novos recursos de IA de forma responsável, em vez de permitir que scripts automatizados e personas geradas artificialmente diluam a confiança no centro das redes sociais.
