IA de conversação do Google O chatbot Bard recentemente esteve sob os holofotes quando o consultor de SEO Gagan Ghotra observou que a Pesquisa Google começou a indexar links de conversação compartilhados do Bard em suas páginas de resultados de pesquisa. Este desenvolvimento levantou preocupações, pois poderia expor informações que os usuários pretendiam que fossem confidenciais. As conversas, mesmo aquelas relacionadas a e-mails privados, poderiam ser acessadas e visualizadas publicamente se os usuários tivessem compartilhado o link com terceiros.
Resposta do Google e reações dos usuários
Ao descobrir isso, Ghotra acessou o X, anteriormente conhecido como Twitter, para compartilhar evidências de várias conversas de Bard sendo indexadas pela Pesquisa Google. A conversa ganhou força e o cientista pesquisador do Google Brain, Peter J. Liu, respondeu, esclarecendo que apenas as conversas que os usuários optaram por compartilhar estavam sendo indexadas. A conta Search Liaison do Google no X também abordou o problema, afirmando: “Bard permite que as pessoas compartilhem bate-papos, se assim desejarem. Também não pretendemos que esses bate-papos compartilhados sejam indexados pela Pesquisa Google. Estamos trabalhando para impedir que eles sejam indexados agora.”Apesar do Google estar trabalhando em uma solução, esse incidente gerou uma onda de preocupação entre os usuários do Bard em relação à privacidade e segurança dos dados.
Haha 😂 Google comecei a indexar URLs de conversas compartilhadas do Bard 😹 não compartilhe nenhuma informação pessoal com Bard na conversa, ela será indexada e pode ser que alguém chegue nessa conversa a partir da pesquisa e veja suas informações 😳
Além disso, os URLs de conversa de Bard estão classificados como… pic.twitter.com/SKGXJD9KEJ
— Gagan Ghotra (@gaganghotra_) 26 de setembro de 2023
Implicações e precauções
O incidente aumentou a urgência das preocupações com a privacidade, especialmente desde que Bard é usado para diversas aplicações, incluindo atendimento ao cliente e assistência pessoal. Os usuários são aconselhados a ter cautela e evitar discutir tópicos e informações confidenciais que não gostariam que fossem vinculados publicamente. A visibilidade pública destas conversas sublinha a importância de estar atento às informações partilhadas com chatbots de IA. O Google alertou os usuários que, ao evitarem usar o recurso de compartilhamento, eles podem garantir que seus bate-papos não acabem nos resultados de pesquisa.
Ontem mesmo relatei que a integração do Bard no Gmail está alucinando e escrevendo e-mails que não existe.”O Bard, em seu estado atual, não é exatamente o assistente de caixa de entrada útil que o Google imagina”, observou uma reportagem do New York Times, depois que a publicação descobriu essas discrepâncias durante os testes. Descobriu-se que a IA cria conversas inteiras por e-mail, levantando preocupações sobre sua confiabilidade e as possíveis implicações para os usuários.