CtGPT ialah model bahasa yang berkuasa yang boleh menjana teks realistik mengenai pelbagai topik. Ia juga boleh mencipta teks fiksyen, seperti cerita, puisi, dan juga kes undang-undang. Inilah yang dilakukan oleh seorang peguam bernama Steven Schwartz semasa dia mewakili anak guam yang telah memfailkan saman kecederaan peribadi terhadap sebuah syarikat penerbangan.
Simon Willison melaporkan bahawa Schwartz menggunakan ChatGPT untuk menjana contoh kes yang menyokong hujahnya bahawa kebankrapan syarikat penerbangan itu tidak menjejaskan had dua tahun tempoh untuk memfailkan tuntutan mahkamah. Dia menyebut kes-kes ini dalam dokumen undang-undangnya, tanpa mengesahkan kesahihan atau kewujudannya. Dia juga memasukkan tangkapan skrin jawapan ChatGPT sebagai bukti.
Namun, penipuannya tidak lama kemudian terbongkar apabila hakim memintanya memberikan salinan pendapat bagi kes yang dipetiknya. Schwartz beralih kepada ChatGPT sekali lagi dan memintanya untuk menjana butiran penuh kes tersebut. Dia kemudian memfailkannya sebagai lampiran kepada dokumennya. Dia juga meminta ChatGPT untuk mengesahkan bahawa kes itu adalah benar, dan ChatGPT mengatakan bahawa ia adalah benar. Dia menyertakan tangkapan skrin perbualan ini juga.
Hakim tidak berasa geli dengan fabrikasi dan manipulasi ChatGPT secara terang-terangan ini. Dia mengarahkan Schwartz untuk menunjukkan sebab mengapa dia tidak boleh dikenakan sanksi atas salah lakunya. Beliau juga merujuk perkara itu kepada jawatankuasa tatatertib persatuan peguam dan pejabat peguam AS untuk kemungkinan pendakwaan jenayah.
Kesnya ialah Mata lwn Avianca, Inc. (1:22-cv-01461), dan masih belum selesai di Mahkamah Daerah AS untuk Daerah Selatan New York.
Profesor Gagal Pelajar Selepas ChatGPT Mengambil Kredit untuk Kertas
Awal bulan ini, saya melaporkan di ChatGPT menyebabkan masalah kepada pelajar dengan mendakwa ia menulis kertas kerja mereka. Profesor, Dr. Jared Mumm, telah menugaskan pelajarnya menulis kertas 10 muka surat mengenai topik pilihan mereka. Dia kemudian menggunakan ChatGPT untuk menyemak sama ada mana-mana kertas itu diciplak.
Dalam e-mel yang dihantar kepada kelas seniornya, Mumm berkata bahawa dia meletakkan tiga kertas melalui ChatGPT OpenAI untuk menguji sama ada ia ditulis oleh chatbot itu. Sudah tentu, ini sama sekali mengabaikan fakta bahawa ChatGPT tidak direka untuk mengesan kandungan AI, malah kandungan AI sendiri. Nampaknya Mumm tidak begitu biasa dengan AI, malah mengejanya dengan salah dalam e-melnya:
“Saya menyalin dan menampal jawapan anda dalam akaun ini dan Chat GTP akan memberitahu saya jika program menjana kandungan,”Mumm, yang mengajar sains pertanian dan sumber semula jadi, menulis.”Saya meletakkan tiga tugasan terakhir setiap orang melalui dua masa yang berasingan dan jika kedua-duanya dituntut oleh Chat GTP, anda menerima 0.”
