Ang isang pahayagan ng Pakistan ay naka-highlight ang lumalagong problema ng hindi nabigong AI output matapos itong mali na nakalimbag na chatty na teksto mula sa isang chatbot. Sa kanyang edisyon ng Nobyembre 12, isinama ni Dawn ang isang AI-nabuo na mensahe upang gawin ang malinaw na nabuo na artikulo na”Snappier,”pagpilit sa isang pampublikong paghingi ng tawad para sa paglabag sa sarili nitong mga patakaran. Mula sa mga pekeng ligal na mapagkukunan na ginamit sa korte hanggang sa mga ulat ng gobyerno, ang pagmamadali upang magpatibay ng generative AI nang walang maingat na pagsusuri ng tao ay ang pagtanggal ng tiwala sa publiko. Ito ay isang kalakaran na lumilikha ng mga malubhang, tunay na mga problema sa mundo para sa mga pangunahing institusyon. Sa halip na isang pagtatapos ng talata, ang artikulo ay nagtampok ng isang klasikong piraso ng chatbot fluff. Punchy one-line stats at isang naka-bold, infographic-handa na layout-perpekto para sa maximum na epekto ng mambabasa.
href=”https://twitter.com/omar_quraishi/status/1988518627859951986?ref_src=twsrc%5etfw”target=”_ blangko”> Nobyembre 12, 2025
Ang pahayagan upang mag-isyu ng isang pagwawasto at isang pormal na paghingi ng tawad. Sa isang tala na naidagdag sa online na bersyon ng artikulo, ang editor inamin ,”Ang ulat ng pahayagan na ito ay orihinal na na-edit gamit ang AI, na kung saan ay paglabag sa kasalukuyang patakaran ng AI. sa insidente ay naiulat na isinasagawa. opisyal na mga alituntunin mula sa pahayagan Malinaw na ipinagbabawal ang paggamit ng AI upang makabuo o mag-edit ng mga kwento ng balita nang walang mahigpit na pangangasiwa ng tao. Sa buong industriya, ang napaaga na paglawak ng generative AI nang walang sapat na pangangasiwa ay humahantong sa isang serye ng mga pagkabigo na may mataas na profile, na nagpapabagabag sa mga pamantayan ng propesyonal at tiwala sa publiko. Kilala bilang guni-guni, ang kababalaghan kung saan ang isang AI ay may kumpiyansa na nag-imbento ng mga katotohanan, mapagkukunan, o data ay nagpapatunay na isang paulit-ulit at mapanganib na kapintasan.
Ang isang kamakailan-lamang at magastos na halimbawa ay nagmula sa mundo ng pagkonsulta. Ang pandaigdigang kompanya na si Deloitte ay pinilit na ibalik ang $ 97,000 sa gobyerno ng Australia matapos ang isang $ 440,000 na ulat na ginawa nito ay natagpuan na nakasakay sa mga pagsipi ng AI. Nag-alok ang Australian Labor Senator na si Deborah O’Neill ng isang matalim na pagsaway, na nagsasabi,”Ang Deloitte ay may problema sa katalinuhan ng tao. Ito ay matatawa kung hindi ito masyadong nakalulungkot.”
Ang mga talamak na problema ay lumilitaw din sa pampublikong sektor. Noong Hulyo, lumitaw ang mga ulat na ang bagong”Elsa”AI ng Estados Unidos, ay inilaan upang mapabilis ang pag-apruba ng droga, sa halip ay inilarawan ang hindi umiiral na mga medikal na pag-aaral. Katulad nito, ang mga abogado para sa AI firm na Anthropic ay pormal na humingi ng tawad sa isang hukom matapos ang kanilang sariling Claude AI na nag-imbento ng isang ligal na pagsipi na ginamit sa isang pag-file ng korte. Sa isang kapansin-pansin na katulad na kaso mula Oktubre, ang magazine ng Aleman na si Der Spiegel ay kinailangan ng tama ang isang artikulo na kasama ang isang ai-na-henerated na sentensya
Ang mga blunders na ito ay hindi nakakulong sa mga bukid na may mababang tier ngunit lumilitaw sa iginagalang, itinatag na mga saksakan ng media, na nagtatampok ng isang sistematikong pagkasira sa mga daloy ng editoryal. Ang isang landmark internasyonal na pag-aaral na naayos ng BBC at European Broadcasting Union (EBU) ay nagsiwalat ng sistematikong katangian ng hindi mapagkakatiwalaang ito. Tulad ng ipinaliwanag ng direktor ng media ng EBU na si Jean Philip de Tender,”Ang pananaliksik na ito ay nagpapakita na ang mga pagkabigo na ito ay hindi nakahiwalay na mga insidente. nasasalat na pinsala sa ecosystem ng digital na impormasyon. Para sa mga foundational platform tulad ng Wikipedia, ang mga kahihinatnan ay nagiging umiiral. Bilang senior director ng produkto ng Wikimedia, si Marshall Miller, ay nagbabala,”Sa mas kaunting mga pagbisita sa Wikipedia, mas kaunting mga boluntaryo ang maaaring lumaki at pagyamanin ang nilalaman, at mas kaunting mga indibidwal na donor ang maaaring suportahan ang gawaing ito.”Pinakamasama ng slop.
Ang responsibilidad para sa mga pagkakamali ay hindi mai-offload sa makina. Isang tao.”