Documentos vazados revelam que a Meta está treinando seus chatbots de AI personalizados para enviar mensagens proativamente com acompanhamentos não agrícolas, um movimento projetado para aumentar a retenção que os críticos alertam é profundamente intrusivo. O projeto supostamente usa o histórico de conversas para personalizar as mensagens de reengajamento. Enquanto a empresa confirmou que está testando o recurso com regras específicas, os advogados argumentam que transforma um assistente pessoal em um agente manipulador, embaçando a linha entre engajamento útil e uma peça para manter os usuários enganchados. A empresa enfrentou recentemente uma tempestade de privacidade sobre o feed”Discover”do aplicativo de IA, que foi encontrado expondo publicamente bate-papos de usuário sensíveis sem consentimento claro do usuário, uma situação que um escritor chamou de”desastre de privacidade”.
Uma linha tênue entre útil e intrusiva
o
Essa coleta de dados é um componente central da estratégia de IA da empresa. Um contratado da Alignerr disse ao Business Insider:”Eles estão muito focados em personalizar informações-como o chatbot da IA interage com base no histórico de conversas”. No entanto, Os termos de serviço da Meta Ofereça um aviso gritante aos usuários:”Não compartilhe informações que você não deseja que o AIS use e retenha” Ben Winters, da Federação Consumidor da América, disse ao Washington Post que”as divulgações e as escolhas do consumidor em torno das configurações de privacidade são ridicularizadas”. A preocupação é que a conveniência de uma IA personalizada tenha o custo de entregar grandes quantidades de dados pessoais com pouco controle transparente. Ele reflete a funcionalidade de aplicativos como o caractere.ai, que enfrentou sua própria segurança e controvérsias éticas. A principal diferença é a enorme escala da Meta e seu modelo de negócios baseado em publicidade. Isso cria uma tensão fundamental. A IA está servindo ao usuário ou está atendendo à necessidade de dados de engajamento da Meta? A escolha do design para reengificar proativamente os usuários, juntamente com o potencial de integração futura de anúncios, sugere um sistema em que a atenção do usuário é o produto final. O CEO Mark Zuckerberg discutiu abertamente ver uma”grande oportunidade”de mostrar anúncios dentro de bate-papos de IA. Esse cliente em potencial transforma o chatbot de um assistente útil em uma ferramenta de marketing em potencial. A preocupação é que uma IA projetada para maximizar o engajamento possa manipular sutilmente os usuários em nome dos anunciantes, criando um relacionamento”inerentemente adversário”. A Meta anunciou recentemente seus novos laboratórios de superinteligência em uma tentativa de consolidar o talento após uma campanha caótica de’compra ou caça furtiva’que se seguiu à partida dos principais pesquisadores. Como as mensagens proativas, a Meta parece estar dobrando para maximizar o valor de seus produtos atuais de IA. É uma aposta de alto risco para manter os usuários viciados, apostando que o apelo de uma IA mais pessoal superará as crescentes preocupações com a privacidade e a verdadeira natureza do”companheiro”digital”
