A OpenAI introduziu regulamentações rígidas em torno de seus modelos de IA ChatGPT e DALL-E no contexto do atual ciclo eleitoral de 2024. A empresa generativa de IA implementou uma política que proíbe o uso de suas ferramentas para simular candidatos eleitorais na vida real. Esta medida visa prevenir possíveis abusos que possam impactar o processo eleitoral. Faz parte da iniciativa interoperacional da OpenAI para proteger as eleições que foi anunciada na semana passada.
Conta de desenvolvedor removida por violação de política
De acordo com o Washington Post, uma violação desta política levou à suspensão de um desenvolvedor que utilizou o ChatGPT para projetar um chatbot que replicasse o membro da Câmara dos Representantes dos EUA, Dean Phillips. Phillips, representando o terceiro distrito de Minnesota, está desafiando o atual presidente Joe Biden nas primárias presidenciais do Partido Democrata. A empresa desenvolvedora por trás da criação, Delphi, foi financiada por um Super PAC chamado We Deserve Better, que endossa a campanha presidencial de Phillips.
Apesar da presença de isenções de responsabilidade que identificam a natureza de IA de “Dean.Bot”, A OpenAI considerou a existência do chatbot uma violação de suas regras estabelecidas. Após a violação, o Super PAC We Deserve Better solicitou que a Delphi parasse de usar o ChatGPT em favor de alternativas de IA de código aberto para o chatbot. No entanto, a Delphi concluiu a operação do Dean.Bot após o acesso do desenvolvedor ao ChatGPT foi encerrado.
Conexões e Padrões Éticos
O incidente atraiu atenção adicional devido a Matt Krisiloff, cofundador do Super PAC e ex-chefe de gabinete do CEO da OpenAI, Sam Altman. Apesar da admissão de Krisiloff em reuniões anteriores com o representante Phillips, ele afirma que Altman não ocupa nenhuma posição nas atividades do Super PAC.
Um porta-voz do ChatGPT comentou a situação, afirmando: “Qualquer pessoa que construa com nossas ferramentas deve seguir nossas políticas de uso. Removemos uma conta de desenvolvedor que violava conscientemente nossas diretrizes de uso de API, que proíbem campanhas políticas ou personificação de um indivíduo sem consentimento.”
A aplicação dessas políticas pela OpenAI ressalta o compromisso da empresa com os responsáveis. uso de tecnologia de IA e a manutenção de padrões éticos na aplicação de IA durante períodos sensíveis, como eleições nacionais. A ação da OpenAI envia uma mensagem clara aos desenvolvedores e entidades políticas, destacando a importância de aderir ao uso ético de IA para garantir a integridade de o processo eleitoral.
