Cofondatorul OpenAI, Ilya Sutskever, a susținut ieri o prezentare care a provocat gândirea la NeurIPS 2024, oferind o viziune a inteligenței artificiale care îmbină promisiunea remarcabilă cu incertitudinea profundă.
NeurIPS 2024, sau a treizeci și opta conferință anuală privind sistemele de procesare a informațiilor neuronale, este una dintre cele mai proeminente și influente conferințe în domeniile inteligenței artificiale și învățării automate. Evenimentul are loc în perioada 10-15 decembrie 2024, la Centrul de Convenții Vancouver din Vancouver, Canada.
În timpul prezentării sale, Sutskever a descris eventuala apariție a IA superinteligentă-sisteme capabile de raționament, imprevizibilitate, și conștientizarea de sine — și dilemele etice pe care le-ar putea pune aceste progrese.
Acum, conducând Safe Superintelligence Inc. (SSI), după plecarea sa din OpenAI în mai, Sutskever consideră că simpla extindere a modelelor ar putea să nu mai fie soluția pentru avansarea inteligenței artificiale.
Vorbind unui public format din cercetători. și lideri din industrie, Sutskever a subliniat că AI superinteligentă ar reprezenta o abatere fundamentală de la sistemele actuale. În timp ce IA actuală excelează în sarcinile care necesită recunoaștere a modelelor și intuiție, ea este insuficientă atunci când vine vorba de raționament-un proces cognitiv care necesită înțelegerea și sintetizarea informațiilor complexe.
„Cu cât un sistem motivează mai mult, cu atât devine mai imprevizibil”, a explicat Sutskever, subliniind o provocare cheie în dezvoltarea viitoare a AI.
El a prezis că raționamentul, imprevizibilitatea și chiar sine.-conștientizarea ar defini următoarea generație de sisteme AI Spre deosebire de modelele de astăzi, pe care el le-a descris ca fiind „foarte ușor agentice”, sistemele superinteligente vor fi cu adevărat. autonom.
„În cele din urmă, mai devreme sau mai târziu, acele sisteme vor fi de fapt agentice în moduri reale”, a spus el, sugerând că această schimbare ar putea remodela în mod fundamental modul în care AI interacționează cu lumea.
Drumul către superinteligență: Revizuirea evoluției inteligenței artificiale
Pentru a înțelege saltul către superinteligență, Sutskever a revizuit principalele repere în dezvoltarea IA. El a început prin a reflecta asupra succeselor timpurii ale rețelelor Long Term Short-Term (LSTM), un element de bază. a învățării automate în anii 2000
„LSTM-urile erau în esență un ResNet rotit cu 90°”, a glumit el, făcând referire la designul stratificat al acestor rețele neuronale. Deși sunt eficiente în păstrarea informațiilor secvențiale, LSTM-urile s-au luptat cu scalabilitatea și eficiența, limitându-și aplicabilitatea la seturi de date mai mari și sarcini mai complexe.
Descoperirea a venit cu Transformers, care a înlocuit LSTM-urile ca arhitectură de alegere pentru multe AI avansate. sisteme. Spre deosebire de predecesorii lor, Transformers ar putea procesa cantități mari de date simultan, permițând progrese semnificative în domenii precum procesarea limbajului natural și recunoașterea imaginilor.
Aceste inovații au deschis calea pentru modele precum seria GPT a OpenAI, care folosesc Transformers pentru a genera text asemănător omului și pentru a efectua sarcini sofisticate.
Sutskever a atribuit o mare parte din acest progres adoptării legile de scalare — principiul conform căruia modelele mai mari antrenate pe seturi de date mai mari oferă performanțe mai bune. „Dacă ai un set de date foarte mare și antrenezi o rețea neuronală foarte mare, succesul este garantat”, a spus el, subliniind forța motrice din spatele activității OpenAI.
Totuși, el a avertizat că scalarea are limitele ei.: „Am atins datele de vârf. Există un singur internet.”
Înainte, un susținător al extinderii dimensiunilor modelelor pentru a obține rezultate mai bune, opiniile lui Sutskever s-au schimbat. ca urmare a conștientizării industriei că scalarea vine cu profituri descrescătoare. „Anii 2010 au fost epoca creșterii, acum ne-am întors din nou în epoca minunii și a descoperirii. Toată lumea caută următorul lucru”, a remarcat recent Sutskever, subliniind că „Scalarea corectă contează acum mai mult decât oricând”.
Acest blocaj i-a determinat pe cercetători să exploreze strategii alternative, inclusiv date sintetice. Datele sintetice, generate pentru a imita informațiile din lumea reală, oferă o modalitate de a antrena sistemele AI fără a se baza pe seturi de date de înaltă calitate din ce în ce mai rare.
Cu toate acestea, Sutskever a recunoscut că datele sintetice vin cu propriile provocări, remarcând: „A afla ce înseamnă datele sintetice și cum să le folosești este o mare provocare.”
[conținut încorporat]
AI probabil ca să epuizeze datele de antrenament în peste patru ani, proprietarii de date, cum ar fi editorii de ziare, încep să reprime modul în care poate fi utilizat conținutul lor, înăsprind și mai mult accesul.
Construirea sistemelor de raționament: obstacolele tehnice care urmează
Una dintre temele centrale ale discursului lui Sutskever a fost provocarea de a construi sisteme AI capabile de un raționament adevărat, cum ar fi noile modele o1 ale OpenAi, cum ar fi GPT-4o, se bazează pe corelații statistice și pe recunoașterea modelelor pentru a rezolva probleme, dar raționamentul necesită o soluție. înțelegere mai nuanțată a contextului, cauzalității și logicii.
„Sistemele de raționament sunt imprevizibile, deoarece depășesc intuiție”, a explicat Sutskever. Această imprevizibilitate, deși este un semn distinctiv al inteligenței, face ca astfel de sisteme să fie dificil de controlat și testat.
Cerințele de calcul ale raționamentului adaugă un alt nivel de complexitate. Spre deosebire de sarcinile mai simple, care pot fi paralelizate și optimizate pentru viteză, raționamentul implică procese care necesită integrare pe mai multe straturi de informații.
Aceste procese consumă mult mai multe resurse, făcând scalabilitatea o problemă persistentă. Sutskever a subliniat că rezolvarea acestor provocări va fi esențială pentru realizarea potențialului IA superinteligentă.
În ciuda acestor obstacole, el a rămas optimist cu privire la traiectoria domeniului. „Facem toate aceste progrese. Este uluitor”, a spus el, arătând spre evoluția rapidă a capabilităților AI în ultimul deceniu. Remarcile sale au reflectat atât entuziasmul, cât și precauția care caracterizează dezvoltarea sistemelor de raționament.
Implicații etice ale AI suprainteligentă: drepturi, coexistență și responsabilitate
Pe măsură ce Sutskever a făcut tranziția de la progrese tehnice la implicații mai largi, el a aprofundat pe unul dintre cele mai controversate subiecte ale inteligenței artificiale: tratamentul etic al sistemelor autonome. AI-urile vor să coexiste cu noi și să aibă drepturi”, a spus el, prezentând o viziune provocatoare despre AI ca mai mult decât un instrument sau o tehnologie.
Remarcile lui Sutskever se aliniază cu dezbaterile emergente despre guvernanța și etica AI, în care cercetătorii iau în considerare din ce în ce mai mult drepturile și responsabilitățile sistemelor inteligente. Deși ideea de a acorda drepturi AI poate părea speculativă, ridică întrebări practice despre responsabilitate și agenție.
Dacă un sistem poate să raționeze, să învețe și să se adapteze independent, cine este responsabil pentru acțiunile sale? Aceste întrebări, a sugerat Sutskever, evidențiază necesitatea unui nou cadru etic adaptat capacităților AI superinteligente.
În timpul sesiunii de întrebări și răspunsuri, un membru al publicului a întrebat cum ar putea stimula umanitatea AI să acționeze în moduri care să se alinieze cu valorile umane. Răspunsul lui Sutskever a reflectat atât complexitatea problemei, cât și incertitudinea inerentă a viitorului AI.
„Structurile de stimulare pe care le creăm vor modela modul în care evoluează aceste sisteme”, a spus el, dar a adăugat rapid: „Nu mă simt încrezător să răspund la întrebări ca aceasta, deoarece lucrurile sunt atât de incredibil de imprevizibile.”
Provocarea halucinațiilor și a rezultatelor nesigure
Unul dintre obstacolele practice în dezvoltarea AI este fenomenul halucinații-rezultate care sunt inexacte, ilogice sau complet fabricate. În timp ce sistemele actuale de inteligență artificială sunt predispuse la astfel de erori, Sutskever a susținut că capabilitățile de raționament ar putea reduce semnificativ apariția acestora.
„Este foarte plauzibil ca modelele viitoare să-și corecteze automat halucinațiile prin raționament”, a spus el, asemănând acest proces cu funcția de autocorecție a procesoarelor de text moderne.
Această capacitate ar permite sistemelor AI. de a recunoaște inconsecvențele în răspunsurile lor și de a-și rafina rezultatele în timp real. lacune în argumente, făcând rezultatele sale mult mai fiabile
Totuși, Sutskever a recunoscut dificultățile tehnice implicate în construirea unor astfel de sisteme. Spun că se va întâmpla”, a remarcat el, subliniind incertitudinea din jurul acestei dezvoltări.
Reglementarea IA superinteligentă: Efort global
Reflecțiile lui Sutskever asupra naturii imprevizibile a inteligenței artificiale superinteligente au subliniat urgența cadrelor de reglementare. În întreaga lume, factorii de decizie se confruntă cu modul în care să guverneze dezvoltarea IA în moduri care să echilibreze inovația cu siguranța.
Legea AI al Uniunii Europene, de exemplu, urmărește să stabilească orientări clare pentru utilizarea IA, concentrându-se pe aplicații cu risc ridicat, cum ar fi recunoașterea facială și luarea autonomă a deciziilor.
În Statele Unite, parlamentarii explorează măsuri similare, în special în sectoare critice precum sănătatea și finanțele. „Fără cadre clare, ritmul rapid de dezvoltare ar putea duce la consecințe neprevăzute”, a avertizat Sutskever, subliniind importanța guvernării proactive.
Organizațiile internaționale, inclusiv OCDE, au contribuit, de asemenea, la peisajul de reglementare prin emiterea principii pentru IA de încredere. Aceste inițiative urmăresc să asigure corectitudinea, responsabilitatea și transparența în sistemele de IA, reflectând un consens global asupra. nevoia de supraveghere
Totuși, așa cum a subliniat Sutskever, provocarea de a reglementa sistemele care sunt în mod inerent imprevizibile adaugă un nivel de complexitate acestor eforturi.
„Oamenii se simt ca „agenți”. ’ sunt viitorul”, a spus el, referindu-se la autonomia tot mai mare a sistemelor AI avansate. Asigurarea faptului că acești agenți de inteligență artificială, precum cei din noua platformă Agentspace de la Google, acționează în moduri care sunt sigure și aliniate cu valorile societale va necesita nu numai inovație tehnică, ci și cadre juridice și etice solide.
Pregătirea. pentru impactul societal al sistemelor autonome
Integrarea inteligenței artificiale superinteligente în societate va avea implicații de anvergură, remodelând industriile, guvernare și chiar identitatea umană. Sistemele autonome capabile să raționeze și să ia decizii ar putea revoluționa domenii precum asistența medicală, transporturile și știința mediului, oferind beneficii fără precedent.
De exemplu, diagnosticarea medicală bazată pe inteligență artificială ar putea analiza datele pacientului cu o acuratețe de neegalat, permițând mai devreme detectarea bolilor și îmbunătățirea rezultatelor. În mod similar, vehiculele autonome echipate cu capacități de raționament s-ar putea adapta la scenarii complexe de trafic, sporind siguranța și eficiența.
În știința mediului, inteligența artificială ar putea procesa seturi de date masive pentru a modela schimbările climatice cu o mai mare precizie, oferind informații utile pentru factorii de decizie la nivel mondial.
Cu toate acestea, beneficiile societății ale inteligenței artificiale superinteligente vin cu riscuri. Pe măsură ce aceste sisteme câștigă autonomie, vor contesta normele existente de responsabilitate și control. Cine este responsabil atunci când un vehicul autonom provoacă un accident sau când un sistem medical activat de raționament face un diagnostic incorect?
Sutskever a subliniat că abordarea acestor întrebări va necesita colaborare între discipline. „Vom avea de-a face cu sisteme AI care sunt incredibil de imprevizibile”, a avertizat el, subliniind importanța vigilenței pe măsură ce aceste tehnologii evoluează.
Implicații filosofice: inteligență, autonomie și rolul umanității
Apariția IA superinteligentă ridică întrebări profunde despre identitatea umană și natura inteligenței, pe măsură ce aceste sisteme depășesc capabilitățile umane în raționament, adaptabilitate și creativitate, ele pot contesta ipotezele de lungă durată despre ceea ce diferențiază umanitatea.
Sutskever a sugerat că conștientizarea de sine, adesea considerată un semn distinctiv al conștiinței, ar putea apărea în mod natural în IA avansată. „Când raționăm, conștientizarea de sine devine parte a modelului mondial al unui sistem”, a spus el, sugerând că astfel de sisteme vor dezvolta o înțelegere a lor ca entități într-un mediu mai larg.
Această schimbare ridică întrebări existențiale. Ce înseamnă pentru oameni să coexiste cu mașini care nu sunt doar inteligente, ci și autonome? Pe măsură ce sistemele AI preiau roluri din ce în ce mai complexe în societate, ele ar putea redefini înțelegerea noastră despre inteligență și agenție.
Din punct de vedere istoric, oamenii au fost punctul de referință pentru excelența cognitivă, dar apariția mașinilor de raționament poate determina o definiție mai largă și mai incluzivă a inteligenței.
Sutskever a recunoscut că aceste întrebări filozofice se extind dincolo de considerente tehnice. „De asemenea, este cu siguranță imposibil de prezis viitorul. Într-adevăr, tot felul de lucruri sunt posibile”, a remarcat el, subliniind incertitudinea din jurul impactului pe termen lung al AI.
Comentariile sale reflectă o conștientizare tot mai mare că dezvoltarea IA superinteligentă nu este doar un efort tehnologic, ci și o profundă provocare culturală și filosofică.
Reimaginarea rolurilor umane într-un Lumea condusă de inteligența artificială
Integrarea inteligenței artificiale superinteligente va remodela în mod inevitabil structurile societale, de la educație și angajare până la guvernare și creativitate Pe măsură ce aceste sisteme preiau roluri rezervate în mod tradițional oamenilor, ele ne vor forța să reconsidere ce înseamnă să contribui în mod semnificativ la societate.
De exemplu, în industriile creative, sistemele AI generează deja artă, muzică și literatură Rezultatele imită adesea creativitatea umană, inteligența artificială superinteligentă ar putea depăși limitele a ceea ce este posibil, creând forme complet noi de exprimare
În mod similar, în educație, tutorii bazați pe inteligență artificială ar putea personaliza experiențele de învățare, adaptând conținutul la nevoile individuale. în moduri în care profesorii umani nu pot.
Cu toate acestea, aceste progrese ridică și îngrijorări cu privire la strămutare și inegalități. Dacă IA suprainteligentă poate depăși oamenii într-o gamă largă de sarcini, ce roluri vor rămâne unic umane?
Sutskever a sugerat că adaptabilitatea umanității va fi testată în această nouă eră, dar s-a abținut să ofere răspunsuri simple. În schimb, el a încurajat reflecția și dialogul, afirmând: „Pe măsură ce aceste sisteme evoluează, va trebui să regândim tot ce știm despre muncă, creativitate și inteligență.”
Implicații mai largi pentru etică și guvernare.
Pe măsură ce sistemele AI devin mai autonome, vor contesta normele existente de responsabilitate și guvernare dezvoltarea și implementarea sistemelor superinteligente, el a recunoscut, de asemenea, dificultatea de a reglementa sistemele care sunt în mod inerent imprevizibile
„Imprevizibilitatea sistemelor de raționament face dificilă crearea unor reguli definitive”, a spus el, îndemnând cercetătorii. și factorii de decizie să colaboreze la abordări flexibile și adaptative.
O soluție potențială constă în alinierea comportamentului AI cu valorile umane prin stimulente structurilor. Prin proiectarea cu atenție a obiectivelor și parametrilor sistemelor autonome, dezvoltatorii se pot asigura că AI acționează în moduri care beneficiază societatea. Cu toate acestea, Sutskever a recunoscut că această sarcină este plină de complexitate.
„Nu mă simt încrezător în a oferi răspunsuri definitive, deoarece lucrurile sunt atât de incredibil de imprevizibile”, a spus el în timpul sesiunii de întrebări și răspunsuri, reflectând provocările de a echilibra inovația cu considerentele etice.
O nouă eră pentru umanitate și IA
Apariția IA superinteligentă nu este doar o piatră de hotar tehnologică; începutul unei noi ere pentru umanitate Pe măsură ce mașinile își asumă roluri care au fost odată considerate unic umane, ele ne vor obliga să ne confruntăm cu propria identitate și scopul
Prezentarea lui Sutskever la NeurIPS 2024 a servit atât ca o sărbătoare. Realizările inteligenței artificiale și un apel la acțiune pentru cercetători, factorii de decizie politică și public pentru a se implica în problemele etice și societale care urmează.
„Facem toate aceste progrese, este uimitor”, a spus el, reflectând asupra progreselor rapide din ultimul deceniu. Cu toate acestea, cuvintele sale de despărțire au fost o amintire a incertitudinilor care însoțesc o astfel de schimbare transformatoare: „Tot felul de lucruri sunt posibile.”
