niedawne badanie przeprowadzone przez szwajcarskich i włoskich naukowców ujawniło, że model dużego języka GPT-4 OpenAI wykazuje znacznie większą zdolność do przekonywać ludzi w debatach w porównaniu do ludzkich odpowiedników. Badanie, które obejmowało różne tematy debaty, takie jak obieg groszy, testy na zwierzętach i wyścigi w przyjęciach na studia, wykazało, że GPT-4 może przekonać przeciwników debaty międzyludzkiej, aby zgodzili się z jego stanowiskiem o 81,7 procent skuteczniej, jeśli zapewni mu się ograniczoną liczbę głosów. dane demograficzne.
Metodologia i wnioski badania
Uczestnikom badania przydzielano losowo stanowisko dotyczące tematu debaty i konfrontowano je z człowiekiem lub Przeciwnik AI. Poproszono ich także o podanie informacji demograficznych, w tym płci, wieku, pochodzenia etnicznego, poziomu wykształcenia, statusu zatrudnienia i przynależności politycznej. Dane te, udostępnione GPT-4, znacznie zwiększyły jego zdolność do dostosowywania argumentów i przekonywania uczestników. Co ciekawe, w badaniu zaobserwowano, że wyniki debatujących pogorszyły się, gdy otrzymali informacje demograficzne o swoich przeciwnikach, co podkreśla wyjątkową zdolność sztucznej inteligencji do skutecznego wykorzystywania danych osobowych.
Implikacje i obawy
Wyniki budzą poważne obawy co do potencjalnego niewłaściwego wykorzystania sztucznej inteligencji do manipulowania rozmowami internetowymi i rozpowszechniania dezinformacji. Zespół badawczy zwrócił uwagę na ryzyko wykorzystania LLM przez złośliwe podmioty do kampanii dezinformacyjnych na dużą skalę, zwłaszcza w połączeniu ze szczegółowymi śladami cyfrowymi i danymi behawioralnymi. Przekonująca siła sztucznej inteligencji, jak wykazano w GPT-4, podkreśla potrzebę opracowania przez platformy internetowe i portale społecznościowe strategii przeciwdziałających tym potencjalnym skutkom. Manoel Ribeiro, jeden z autorów artykułu, podkreślił znaczenie kontynuowania badań nad interakcją człowiek – sztuczna inteligencja ze względu na ewoluujący charakter interakcji z treściami online.
To badanie nie tylko rzuca światło na zaawansowane możliwości perswazji sztucznej inteligencji ale wzywa także do wspólnych wysiłków między środowiskiem akademickim i przemysłem w celu oceny i ograniczenia zagrożeń, jakie sztuczna inteligencja stwarza dla społeczeństwa. Zdolność sztucznej inteligencji do przewyższania ludzi w dostosowywaniu argumentów i przekonywaniu jednostek otwiera nową granicę w debacie na temat etycznego wykorzystania technologii sztucznej inteligencji w dyskursie publicznym i rozpowszechnianiu informacji.
