Um órgão europeu de vigilância da privacidade, Noyb, tem iniciou uma reclamação do GDPR contra a OpenAI, representando as preocupações de um indivíduo sobre imprecisões de dados pessoais propagadas pelo ChatGPT. O cerne da reclamação reside na falha do chatbot de IA em alterar informações falsas sobre indivíduos, um requisito fundamental do GDPR. A reclamação surgiu depois que uma figura pública descobriu que o ChatGPT listou incorretamente sua data de nascimento e a subsequente declaração da OpenAI de sua incapacidade de corrigir tais erros devido a restrições técnicas.
Limitações Técnicas e Obrigações Legais
A posição da OpenAI, de que é tecnicamente inviável corrigir pontos de dados específicos gerados pelo ChatGPT, gerou controvérsia significativa. A organização tentou mitigar os problemas oferecendo filtragem ou bloqueio de dados com base em determinados prompts, como o nome do reclamante. No entanto, isto não aborda a questão mais ampla de corrigir a desinformação sem filtrar completamente todas as informações relacionadas com um indivíduo. Esta situação levantou questões sobre a adesão da OpenAI aos mandatos do GDPR, especificamente a disposição que permite que indivíduos solicitem a correção de seus dados pessoais mantidos por entidades.
Transparência e escrutínio regulatório
A reclamação também destaca a falta de transparência da OpenAI em relação às fontes dos dados do ChatGPT e às especificidades das informações pessoais que ele processa. Noyb argumenta que esta opacidade contraria as diretrizes do GDPR, que estipulam a necessidade de informar os indivíduos sobre os dados coletados sobre eles. Com o caso agora sob análise dos reguladores austríacos, a OpenAI poderá enfrentar penalidades significativas, incluindo multas de até 4% da sua receita global, caso seja considerada uma violação das regras do GDPR. Este incidente segue um precedente na Itália, onde o órgão de vigilância da privacidade restringiu temporariamente o acesso ao ChatGPT devido a preocupações semelhantes, sublinhando o crescente foco regulatório nas tecnologias de IA e na sua conformidade com as leis de proteção de dados.
Posição dura da Europa em relação à IA
A Europa tem adotado uma abordagem rigorosa para governar empresas de tecnologia em IA. A Microsoft ficou especialmente sob os holofotes. Os reguladores da União Europeia se interessaram por Aquisição pela Microsoft da equipe da Inflection, uma startup sediada em Palo Alto, por um valor relatado de US$ 650 milhões. Os responsáveis pela concorrência da União Europeia estão monitorando de perto os investimentos da Microsoft no setor de IA, incluindo um investimento substancial de US$ 13 bilhões na OpenAI e uma participação de US$ 15 milhões na Mistral.
