ChatGPT é um modelo de linguagem poderoso que pode gerar textos realistas sobre vários tópicos. Também pode inventar textos ficcionais, como histórias, poemas e até processos judiciais. Foi isso que um advogado chamado Steven Schwartz fez quando representava um cliente que havia entrado com uma ação por danos pessoais contra uma companhia aérea.
Simon Willison relata que Schwartz usou o ChatGPT para gerar exemplos de casos que sustentavam seu argumento de que a falência da companhia aérea não afetou a limitação de dois anos prazo para ajuizamento da ação. Ele citou esses casos em seus documentos legais, sem verificar sua autenticidade ou existência. Ele até incluiu capturas de tela das respostas do ChatGPT como prova.
No entanto, seu engano logo foi exposto quando o juiz pediu que ele fornecesse cópias das opiniões dos casos que ele havia citado. Schwartz recorreu novamente ao ChatGPT e pediu que ele gerasse todos os detalhes desses casos. Ele então os arquivou como anexos de seus documentos. Ele também pediu ao ChatGPT para confirmar que os casos eram reais, e o ChatGPT disse que sim. Ele também incluiu capturas de tela desta conversa.
O juiz não achou graça esta fabricação e manipulação flagrante do ChatGPT. Ele ordenou que Schwartz mostrasse o motivo pelo qual não deveria ser sancionado por sua má conduta. Ele também encaminhou o assunto ao comitê disciplinar da Ordem dos Advogados e ao escritório do procurador dos EUA para possível processo criminal.
O caso é Mata v. Avianca, Inc. (1:22-cv-01461), e ainda está pendente no Tribunal Distrital dos EUA para o Distrito Sul de Nova York.
Professor reprova alunos após ChatGPT receber créditos por trabalhos
No início deste mês, relatei que o ChatGPT causava problemas para os alunos alegando que ele escrevia seus trabalhos. O professor, Dr. Jared Mumm, designou seus alunos para escrever um artigo de 10 páginas sobre um tópico de sua escolha. Ele então usou o ChatGPT para verificar se algum dos papéis foi plagiado.
Em um e-mail enviado para sua classe de alunos do último ano, Mumm disse que colocou três papéis no ChatGPT da OpenAI para testar se eles foram escritos por o chatbot. Claro, isso ignora completamente o fato de que o ChatGPT não foi projetado para detectar conteúdo de IA, mesmo o seu próprio. Parece que Mumm não estava muito familiarizado com a IA e até escreveu errado em seu e-mail:
“Eu copio e colo suas respostas nesta conta e o Chat GTP vai me dizer se o programa gerou o conteúdo,”Mumm, que ensina ciências agrícolas e recursos naturais, escreveu. “Eu coloquei as três últimas tarefas de todos em dois momentos separados e se ambas foram reivindicadas pelo Chat GTP, você recebeu um 0.”
