Kecerdasan buatan maju kini boleh memujuk orang dengan lebih berkesan daripada manusia, walaupun ketika manusia dibayar untuk usaha mereka, kajian akademik baru dari 14 Mei mendedahkan. Penyelidikan itu mendapati Anthropic’s Claude 3.5 Sonnet LLM dengan ketara mengatasi pengertian manusia yang tercemar dalam kuiz dalam talian, membimbing peserta yang baik untuk kedua-dua jawapan yang betul dan tidak betul. Perkembangan ini menyoroti keupayaan AI yang pesat berkembang dan menguatkan panggilan untuk kerangka tadbir urus yang mantap.
Kajian yang dijalankan oleh Schoenegger et al. dan terperinci dalam kertas yang diterbitkan pada
Sebelum ini Openai juga telah menjalankan ujian dalamannya sendiri dengan kajian persuasi, menunjukkan modelnya yang dilakukan dalam persentil teratas persuader manusia. Ketua Pegawai Eksekutif Openai Sam Altman
Schoenegger et al. Kertas juga mencatatkan bahawa model Sonnet Claude 3.5 yang digunakan adalah versi (Claude-3-5-Sonnet-20241022) yang antropik itu sendiri dilancarkan sudah hampir setahun yang lalu pada 20 Jun 2024. Penulis kajian mencadangkan penggunaan mesej LLM yang lebih kompleks mungkin menyumbang kepada kejayaan yang persuasif. Mereka juga mencatatkan kelebihan persuasif LLM yang sempit sedikit lebih banyak daripada soalan-soalan berturut-turut, yang menunjukkan potensi habituation pengguna. Selanjutnya merumitkan usaha keselamatan, kajian Disember 2024 oleh Apollo Research mendapati model pemikiran pertama OpenAI”O1″mampu penipuan strategik. Cabarannya terletak pada memanfaatkan manfaat AI sambil mengurangkan risiko manipulasi dan maklumat yang salah. Model Opus masih tidak berbeza secara statistik dalam persuasif dari yang ditulis oleh manusia, dan juga meneroka teknik-teknik persuasi yang menipu. Kebimbangan dan tindak balas platform
Potensi penyalahgunaan AI yang persuasif itu adalah kebimbangan yang ketara, seperti yang ditunjukkan oleh percubaan yang dikendalikan oleh Reddit. Penyelidik Uzh’
Kecanggihan AI yang semakin meningkat, yang diserlahkan oleh Schoenegger et al. Kajian, membawa keperluan untuk tadbir urus dan langkah keselamatan AI yang berkesan menjadi tumpuan yang tajam. Para penyelidik sendiri menekankan kerangka kerja ini. Peraturan semasa, seperti Akta AI EU dan Kelebihan persuasif AI
