O aplicativo independente de IA da
Meta acendeu uma tempestade de críticas, criando o que muitos estão chamando de um desastre de privacidade transmitindo publicamente conversas ostensivamente privadas e muitas vezes pessoais dos usuários. O feed”Discover”do aplicativo, destinado a um recurso social, está expondo um fluxo contínuo de consultas de usuário sensíveis em tudo, desde problemas legais a doenças médicas, em um fiasco que um escritor para o TechCrunch descreveu como “o início de um filme do século 21, o que é o primeiro, a história do seu Browser foi o primeiro, o que é o primeiro aplicativo, o que é o primeiro, o que é o primeiro, a história do seu Browser foi o primeiro, o que não tem idéia do século XX. interações. No entanto, a torrente de posts visíveis ao público sugere que muitos não sabem que estão publicando seus pensamentos particulares. As reported by Wired, these shared chats include a 66-year-old man asking, “what counties [sic] do younger women like older white men,”while publicly revealing his age and willingness to relocate.
While A meta afirma que os bate-papos são privados por padrão e só se tornam públicos depois que os usuários concluem um processo de compartilhamento de várias etapas, o feed público está repleto de evidências de confusão do usuário. Especialistas em privacidade acharam a situação”incrivelmente preocupante”, explicando que revela um mal-entendido público fundamental de como os sistemas de IA modernos e o trabalho de privacidade de dados. Essa escolha de design criou um pesadelo de privacidade, onde os nomes dos usuários e as fotos do perfil são anexados às suas consultas mais sensíveis. Pensamentos
O núcleo da questão está no feed social por design do aplicativo. Quando o aplicativo foi lançado, o vice-presidente de produto da Meta, Connor Hayes, disse que o feed pretendia”desmistificar a IA”, mostrando o que poderia fazer. In practice, it has become a public ledger of private moments, drawing comparisons to the infamous 2006 AOL data leak detailed by The New York Times , onde foram publicados históricos de pesquisa de usuário pseudonimizados. Especialista em segurança Rachel tabac encontrou instâncias dos usuários que compartilham endereços domésticos e mais sensíveis. As expectativas sobre como uma ferramenta funciona não corresponde à realidade, você tem uma enorme experiência do usuário e um problema de segurança.
Os seres humanos construíram um esquema em torno dos bots de bate-papo da IA e não esperam que o bot de bate-papo da IA solicite um feed de descoberta de estilo de mídia social-…… https:/t.co/cj41tuxce (@Racheltobac) 12 de junho> Raigo Prompts ou pop-ups relacionados à privacidade ao usar o aplicativo, colocando os usuários diretamente na interface sem avisar que seus bate-papos podem se tornar públicos.
A reação dos advogados da privacidade foi rápida. A Fundação Mozilla possui Demed formalmente que, para que o all teath’se alvo’, até que o alvo’_ em branco”> se provetou, que não é necessário, o que é necessário para que o alvo de alvo até que se alvo até que se alvo até que se alvo até que se alvo até que o alvo de que se alvo’. O problema tornou-se tão aparente que alguns usuários começaram a trollar a plataforma, perguntando como fazer bongos de garrafa de água ou compartilhar seus currículos para pedir trabalhos de segurança cibernética. preocupações. O recurso”memória”do aplicativo está ativado por padrão, analisando e armazenando automaticamente fatos das conversas do usuário para personalizar respostas futuras. Os próprios termos de serviço da Meta avisam os usuários:”Não compartilhe informações que você não deseja que o AIS use e retenha”. Pode ser usado para melhorar seus modelos de IA e, diferentemente de alguns concorrentes, a Meta não oferece maneira direta para os usuários optarem por não participar dessa colheita de dados para o treinamento. A configuração levou um especialista da Federação do Consumidor da América a contar a The Washington Post que as distribuições e os sidacentes”são os que linham”. na Europa. Max Schrems, presidente da Noyb, destacou o precedente legal, observando que o Tribunal de Justiça Europeu já rejeitou a reivindicação de”juros legítimos”da Meta para publicidade. Ele então colocou a pergunta crítica:”Como deve ter um”interesse legítimo”para sugar todos os dados para o treinamento de IA?”
Além disso, essas conversas íntimas poderiam em breve alimentar os negócios principais do Meta, como o CEO Mark Zuckerberg mencionou abertamente, vendo uma grande oportunidade para mostrar interações com AI. O empurrão agressivo da
Meta de seus produtos de IA, apesar de suas evidentes falhas, está ocorrendo contra um cenário de imensa pressão interna e urgência estratégica. A empresa está fazendo investimentos colossais para recuperar o atraso na corrida armamentista da IA, destacada por um recente acordo de US $ 14 bilhões para uma participação de 49% na IA da escala da empresa de etiquetas de dados. O negócio instala o fundador da Scale AI, Alexandr Wang, à frente de um novo laboratório de”superinteligência”dentro da meta.’ACTI-HIRE’ Projetado para ignorar os gargalos internos do desenvolvimento após um grave dreno de talentos viu a maior parte da equipe de pesquisa de LLama original partir para os concorrentes. O investimento segue atrasos significativos no desenvolvimento do modelo de IA da próxima geração da Meta. A estrutura do acordo, uma participação de 49% em vez de uma aquisição completa, também é vista por alguns como uma manobra estratégica para evitar um escrutínio antitruste adicional dos reguladores. O fundador da Scale AI tem sido um defensor vocal deste trabalho, argumentando em um recente artigo que”não há espaço para a neutralidade na raça de tecnologia global”. Em última análise, a crise de privacidade do aplicativo Meta AI não é um incidente isolado, mas uma conseqüência direta da estratégia mais ampla da empresa. Em sua corrida de alto risco para construir um ecossistema de IA dominante e abrangente, a Meta está se movendo em um ritmo vertiginoso, alimentado por investimentos maciços e um apetite voraz pelos dados do usuário. O feed”Discover”falha demonstra que, nesse sprint, para a supremacia da IA, a privacidade do usuário se tornou uma vítima aceitável, forçando uma difícil troca para os consumidores e convidando confrontos inevitáveis com reguladores em todo o mundo.
