O coaliție diversă formată din peste 800 de personalități publice, inclusiv laureați ai premiului Nobel, regalitatea britanică și „nașii” inteligenței artificiale moderne, a semnat o declarație miercuri prin care cere oprirea globală a dezvoltării „superinteligenței”.
Efortul, organizat de Institutul Viitorul Vieții (FLI), aterizează pe fondul unei curse tehnologice din ce în ce mai intense. Confruntă un cor tot mai mare de experți preocupați față de imensul impuls financiar și politic care conduce dezvoltarea AI.
A Broad Coalition Sounds the Broad Coalition Alarmă
Organizatorii declarației indică o deconectare puternică între ambițiile industriei tehnologice și voința publicului.
Sondajul pe 2.000 de adulți din S.U.A. a constatat că 73% doresc o reglementare solidă cu privire la IA avansată. În plus, 64% cred că inteligența artificială supraomenească nu ar trebui dezvoltată până nu se dovedește sigură sau nu ar trebui niciodată creată.
Doar 5% dintre americani susțin actualul status quo-ul actual al dezvoltării rapide și nereglementate.
Anthony Aguirre, director executiv la FLI, a spus-o direct într-un interviu pentru NBC News: „Nu asta vrea publicul. Ei nu vor să fie într-o cursă pentru asta.”
Acest sentiment este repetat de pionierul AI Yoshua Bengio, care a semnat declarația și a adăugat: „De asemenea, trebuie să ne asigurăm că publicul are un cuvânt de spus mult mai puternic în deciziile care ne vor modela viitorul colectiv.”
Lista semnatarilor este remarcabilă prin amploarea sa, eliminând diviziunile profunde politice și culturale. Branson și fostul președinte al șefilor de stat major Mike Mullen au semnat, la fel ca Glennconservative media figures”> Beck și Steve Bannon.
Li se alătură Prințul Harry și Meghan Markle, actorul Joseph Gordon-Levitt și fostul președinte irlandez Mary Robinson. Poate cel mai semnificativ, lista îi include pe câștigătorii premiului Turing Geoffrey Hinton și Yoshua Bengio, a căror activitate fundamentală a permis boom-ul actual al inteligenței artificiale.
Participarea lor conferă avertismentului o credibilitate științifică substanțială. Autorul Yuval Noah Harari, un alt semnatar, a avertizat: „Superintelligence ar distruge, probabil, sistemul de operare al civilizației umane – și este complet inutilă.”
Opinia publică vs. Ambiția industriei
În timp ce giganții tehnologiei vărsă miliarde în cursa pentru supremația inteligenței artificiale, declarația susține că obiectivul este prea departe.
Actorul și scriitorul Sir Stephen Fry a comentat: „Prin definiție, acest lucru ar avea ca rezultat o putere pe care nu am putea-o înțelege și nici nu o putem controla.”
Această preocupare cu privire la control este esențială a dezbaterii, făcând ecou temerilor exprimate anterior de foștii din interiorul OpenAI, care au avertizat despre un ritm terifiant de rapid de dezvoltare.
În mod ironic, chiar și aceste lideri au exprimat temerile acestor lideri. O postare pe blog din 2015 a CEO-ului OpenAI, Sam Altman, cu mult înainte de lansarea ChatGPT, a afirmat: „Dezvoltarea inteligenței supraumane a mașinilor (SMI) este probabil cea mai mare amenințare pentru existența continuă a umanității.”
Similarly. CEO-ul Dario Amodei a estimat public: „Cred că există o șansă de 25% ca lucrurile să meargă foarte, foarte prost.”
CE-ul Anthropic Dario Amodei spune acum că P(Doom) este de 25%.https://t.co/lAinvcaYUh
— Calum Chace (@cccalum) 19 septembrie 2025
CEO-ul Microsoft AI, Mustafa Suleyman, a mai spus: „Până nu putem dovedi fără echivoc că este [sigur], nu ar trebui să-l inventăm.”
Cursa de neoprit pentru AI supremație <, în ciuda acestor războaie interne. cursa corporativă și națională către superintelligence continuă fără încetare.
Meta și-a numit în mod explicit noua divizie „Meta Superintelligence Labs”, semnalând obiectivul său corporativ. Acest impuls este alimentat de investiții financiare uluitoare.
Conform unei prognoze, se estimează că cheltuielile corporative pentru IA vor atinge 1,5 trilioane USD în 202000. Acest impuls este întărit de politica națională. Planul de acțiune AI al administrației Trump, dezvăluit în iulie, prioritizează eliminarea obstacolelor de reglementare pentru a accelera dezvoltarea și a menține un avantaj strategic față de China. Nu toți experții AI sunt de acord cu avertismentele îngrozitoare. Omul de știință șef AI al Meta, Yann LeCun, target=”_blank”> un criticista alarms=”_blank”scenarii „doomer”. El respinge ideea unei preluări incontrolabile a IA, imaginând în schimb un viitor al „inteligenței amplificatoare” în care sistemele AI măresc capacitățile umane, mai degrabă decât să le înlocuiască. Această perspectivă sugerează că riscurile sunt gestionabile și că beneficiile IA puternice, de la vindecarea bolilor semnificative, până la rezolvarea bolilor semnificative, sunt prea mari până la rezolvarea schimbărilor climatice. frică. Viziunea lui LeCun reprezintă o divizare filozofică semnificativă în cadrul comunității AI, încadrând dezbaterea ca una între administrarea prudentă și inovația ambițioasă și nelimitată. În cele din urmă, declarația forțează o conversație publică despre viitorul umanității într-o eră a mașinilor din ce în ce mai puternice. Organizatorii săi susțin că decizia de a crea o specie potențială succesoare nu ar trebui lăsată în seama unui număr mic de directori și cercetători din domeniul tehnologiei. Profesorul și semnatarul Stuart Russell din Berkeley a formulat propunerea nu ca o interdicție ludită, ci ca o măsură de siguranță de bun simț. „Acesta nu este o interdicție sau chiar un moratoriu pentru a necesita măsuri de siguranță adecvate în mod obișnuit. o tehnologie care… are o șansă semnificativă de a provoca dispariția umană.” Pe măsură ce tehnologia galopează înainte, întrebarea centrală rămâne dacă umanitatea poate aplica frânele suficient de mult pentru a se asigura că rămâne pe scaunul șoferului.O frontieră prea departe? Dezbaterea asupra riscului existențial
