O empurrão agressivo do Google para integrar a IA em seus produtos está atingindo alguns Roadbloacks. Um grande bug no Gmail está alterando ativamente o conteúdo dos e-mails em língua alemã sem o consentimento do usuário. Gêmeos ai identifica incorretamente o texto alemão como inglês e depois o “traduz” de volta, introduzindo erros bizarros e prejudiciais.
Uma correção está lentamente lançada, mas pode levar semanas para ser concluída. O incidente levanta questões sérias sobre o controle de qualidade da empresa, à medida que as corridas para incorporar IA em todo o seu ecossistema, da pesquisa a aplicativos de produtividade. Alucinados
Os erros gerados pelo IA defeituoso do Gmail não são apenas erros de digitação; São manipulações significativas de conteúdo que minam a integridade da comunicação. In its detailed report, T-Online documents how the system produced politically charged Erros . Em uma newsletter-text sobre a guerra na Ucrânia, alterou”Ukrainische Stellungen”(posições ucranianas) para”Amerikanische Stellungen”(posições americanas). Florian Harms, editor-chefe da T-Online, observou o grave impacto na credibilidade, afirmando: “Para a reputação jornalística e a credibilidade da mídia grave, essas manipulações de texto são devastadoras.”
Ele revelou que a extensão da confusão do leitor”, acrescentando:”Nos últimos meses, há perguntas ainda para se nossos editores foram embalados”. O problema se tornou tão alarmante que provocou preocupações internas de um pista cibernético em potencial antes que a causa verdadeira fosse identificada.
A causa raiz acredita-se que seja a IA ficar confusa com a marcação HTML em inglês dentro do código-fonte do email. Isso desencadeia um processo de tradução sem sentido. Como especialista do Centro de Pesquisa Alemão de IA (DFKI) explicou:”Se um modelo é forçado a traduzir de alemão para alemão, o que, é claro, não foi treinado para fazer, pode alucinar”. Essa”alucinação”resulta em resultados imprevisíveis. Depois que a T-Online relatou a questão em maio, as correções iniciais do Google no início de junho não resolveram o problema subjacente. Os patches corrigiram exemplos relatados específicos, mas não abordaram a falha lógica principal, permitindo que novos erros diferentes apareçam.
Isso levou a uma repreensão nítida da empresa controladora da T-Online. Um representante de TI disse ao Google:”Parece que a equipe de desenvolvimento apenas colocou um gesso na ferida sem corrigir a causa real”. Não foi até uma reunião em 30 de junho que o Google reconheceu que uma solução mais abrangente estava em andamento.
O Google enquadrou publicamente o problema como puramente técnico. Um porta-voz sem nome da empresa declarou:”Estamos convencidos de que esse é um problema técnico”, descartando qualquer manipulação intencional. No entanto, o manuseio da empresa do bug atraiu escrutínio por sua falta de comunicação proativa com usuários e editores afetados. Muitos usuários, de acordo com os relatórios da T-Online, nem sequer estavam cientes de que haviam ativado o recurso, levantando perguntas sobre o consentimento e a transparência do usuário. Ocorre exatamente quando o Google está dobrando a incorporação de Gêmeos em sua suíte de espaço de trabalho. As atualizações recentes incluem resumo automático de e-mail no Gmail e a integração de assistentes personalizados de “gemas” em aplicativos como documentos e folhas. As Ron Richards of the Android Faithful podcast noted about the unstoppable advance of AI, “that ship has sailed… AI is here … and it’s not going to go away. It’s a matter De como você escolhe interagir com ele…”Para o Google, garantir que essa interação não seja defeituosa se tornou um desafio crítico e muito público.