Ang co-founder ng OpenAI na si Ilya Sutskever kahapon ay naghatid ng isang nakakapukaw na pag-iisip na pagtatanghal sa NeurIPS 2024, na nag-aalok ng pananaw ng artificial intelligence na pinagsasama ang kahanga-hangang pangako sa matinding kawalan ng katiyakan.
NeurIPS 2024, o ang Thirty-Eighth Annual Conference on Neural Information Processing Systems, ay isa sa mga pinakatanyag at maimpluwensyang kumperensya sa larangan ng artificial intelligence at machine learning. Ang kaganapan ay magaganap mula Disyembre 10-15, 2024, sa Vancouver Convention Center sa Vancouver, Canada.
Sa kanyang presentasyon, inilarawan ni Sutskever ang paglabas sa wakas ng superintelligent AI—mga sistemang may kakayahang mangatwiran, hindi mahuhulaan, at kamalayan sa sarili—at ang mga etikal na dilemma na maaaring idulot ng mga pagsulong na ito.
Nangunguna ngayon sa Safe Superintelligence Inc. ( SSI) pagkatapos ng kanyang pag-alis sa OpenAI noong Mayo, iniisip ni Sutskever na ang pagpapalaki ng mga modelo ay maaaring hindi na solusyon sa pagsulong artificial intelligence.
Sa pagsasalita sa madla ng mga mananaliksik at lider ng industriya, binigyang-diin ni Sutskever na ang superintelligent na AI ay kumakatawan sa isang pangunahing pag-alis mula sa mga sistema ngayon. Bagama’t mahusay ang kasalukuyang AI sa mga gawaing nangangailangan ng pagkilala sa pattern at intuition, kulang ito pagdating sa pangangatwiran—isang prosesong nagbibigay-malay na nangangailangan ng pag-unawa at pag-synthesize ng kumplikadong impormasyon.
“Kung mas maraming dahilan ang isang system, mas nagiging unpredictable ito,”paliwanag ni Sutskever, na binibigyang-diin ang isang pangunahing hamon sa pag-unlad ng AI sa hinaharap.
Hula niya na ang pangangatwiran, unpredictability, at maging ang sarili-awareness ay tutukuyin ang susunod na henerasyon ng mga AI system Hindi tulad ng mga modelo ngayon, na inilarawan niya bilang”napaka-agentic,”ang mga superintelligent na system ay magiging tunay. autonomous.
“Sa kalaunan—sa malao’t madali—ang mga sistemang iyon ay talagang magiging ahente sa totoong mga paraan,” aniya, na nagmumungkahi na ang pagbabagong ito ay maaaring baguhin sa panimula kung paano nakikipag-ugnayan ang AI sa mundo.
The Road to Superintelligence: Revisiting the Evolution of AI
Upang maunawaan ang hakbang patungo sa superintelligence, muling binisita ni Sutskever ang mga pangunahing milestone sa pagbuo ng AI, nagsimula siya sa pamamagitan ng pagmuni-muni sa mga naunang tagumpay ng Long Short-Term Memory (LSTM) network, isang staple ng machine learning noong 2000s
“Ang mga LSTM ay mahalagang isang ResNet rotated 90°,” pagbibiro niya, na tinutukoy ang layered na disenyo ng mga neural network na ito. Bagama’t epektibo sa pagpapanatili ng sunud-sunod na impormasyon, ang mga LSTM ay nakipaglaban sa scalability at kahusayan, nililimitahan ang kanilang pagiging angkop sa mas malalaking dataset at mas kumplikadong mga gawain.
Ang tagumpay ay dumating sa mga Transformers, na pumalit sa mga LSTM bilang arkitektura na pinili para sa maraming advanced na AI mga sistema. Hindi tulad ng kanilang mga nauna, ang mga Transformer ay maaaring magproseso ng napakaraming data nang sabay-sabay, na nagbibigay-daan sa makabuluhang pag-unlad sa mga lugar tulad ng natural na pagpoproseso ng wika at pagkilala sa imahe.
Ang mga inobasyong ito ay nagbigay daan para sa mga modelo tulad ng serye ng GPT ng OpenAI, na gumagamit ng mga Transformers upang makabuo ng text na tulad ng tao at magsagawa ng mga sopistikadong gawain.
Ipinaugnay ni Sutskever ang karamihan sa pag-unlad na ito sa pag-ampon ng mga batas sa pag-scale—ang prinsipyo na ang mga malalaking modelo na sinanay sa mas malalaking dataset ay nagbubunga ng mas mahusay na pagganap.”Kung mayroon kang napakalaking dataset, at nagsasanay ka ng napakalaking neural network, garantisadong tagumpay,”aniya, na itinatampok ang puwersang nagtutulak sa likod ng trabaho ng OpenAI.
Gayunpaman, binalaan niya na ang pag-scale ay may mga limitasyon nito:”Naabot na namin ang pinakamataas na data na mayroon lamang isang internet.”
Dati ay isang tagapagtaguyod ng pagpapalawak ng mga laki ng modelo upang makamit ang mas mahusay na mga resulta, ang mga pananaw ni Sutskever ay nagbago kasunod ng napagtanto ng industriya na ang scaling ay kasama ng lumiliit na kita.”Ang 2010s ay ang edad ng scaling, ngayon ay bumalik tayo sa edad ng kababalaghan at pagtuklas muli. Hinahanap ng lahat ang susunod na bagay,” sabi ni Sutskever kamakailan, na binibigyang-diin na”Mas mahalaga ngayon ang pag-scale sa tamang bagay.”
Ang bottleneck na ito ay nag-udyok sa mga mananaliksik na galugarin ang mga alternatibong diskarte, kabilang ang sintetikong data. Ang sintetikong data, na nabuo upang gayahin ang totoong-mundo na impormasyon, ay nag-aalok ng paraan upang sanayin ang mga AI system nang hindi umaasa sa lalong kakaunting mataas na kalidad na mga dataset.
Gayunpaman, kinilala ni Sutskever na ang synthetic data ay may sarili nitong mga hamon, na binanggit,”Ang pag-alam kung ano ang ibig sabihin ng synthetic data at kung paano ito gamitin ay isang malaking hamon.”
[naka-embed na nilalaman]
Pagbuo ng Mga Sistema sa Pangangatwiran: Ang mga Teknikal na Hurdles sa Ahead
Isa sa mga pangunahing tema ng pahayag ni Sutskever ay ang hamon ng pagbuo ng mga AI system na may kakayahang ng totoong pangangatwiran, tulad ng mga bagong modelo ng OpenAi tulad ng GPT-4o ay umaasa sa mga istatistikal na ugnayan at pagkilala sa pattern upang malutas ang mga problema, ngunit ang pangangatwiran ay nangangailangan ng mas nuanced na pag-unawa sa konteksto, sanhi, at lohika.
“ Ang mga sistema ng pangangatwiran ay hindi mahuhulaan dahil lumampas sila sa intuwisyon,”paliwanag ni Sutskever. Ang hindi mahuhulaan na ito, habang isang tanda ng katalinuhan, ay nagpapahirap din sa mga ganitong sistema na kontrolin at subukan.
Ang computational demands ng pangangatwiran ay nagdaragdag ng isa pang layer ng pagiging kumplikado. Hindi tulad ng mas simpleng mga gawain, na maaaring iparallelize at i-optimize para sa bilis, ang pangangatwiran ay nagsasangkot ng mga proseso na nangangailangan ng pagsasama sa maraming layer ng impormasyon.
Ang mga prosesong ito ay kumokonsumo ng mas maraming mapagkukunan, na ginagawang isang patuloy na isyu ang scalability. Binigyang-diin ni Sutskever na ang paglutas sa mga hamong ito ay magiging kritikal para sa pagsasakatuparan ng potensyal ng superintelligent na AI.
Sa kabila ng mga hadlang na ito, nanatili siyang optimistiko tungkol sa trajectory ng field.”Ginagawa namin ang lahat ng pag-unlad na ito. Ito ay kamangha-mangha,”aniya, na itinuturo ang mabilis na ebolusyon ng mga kakayahan ng AI sa nakalipas na dekada. Ang kanyang mga pahayag ay sumasalamin sa parehong kaguluhan at pag-iingat na nagpapakilala sa pagbuo ng mga sistema ng pangangatwiran.
Mga Etikal na Implikasyon ng Superintelligent AI: Mga Karapatan, Pagsasama-sama, at Pananagutan
Habang lumipat si Sutskever mula sa mga teknikal na pagsulong patungo sa mas malawak na implikasyon, hinalungkat niya ang isa sa mga pinakakontrobersyal na paksa sa artificial intelligence: ang etikal na pagtrato sa mga autonomous system ay nag-isip siya na habang tumatanda ang superintelligent na AI, maaari itong humingi ng pagkilala at magkakasamang buhay sa tabi ng sangkatauhan.
“Ito ay hindi isang. masamang kahihinatnan kung nais ng mga AI na mabuhay nang magkakasama sa amin at magkaroon ng mga karapatan,”aniya, na naglalahad ng isang nakakapukaw na pananaw ng AI bilang higit pa sa isang tool o isang teknolohiya.
Ang mga pahayag ni Sutskever ay naaayon sa mga umuusbong na debate tungkol sa pamamahala at etika ng AI, kung saan lalong isinasaalang-alang ng mga mananaliksik ang mga karapatan at responsibilidad ng mga matatalinong sistema. Bagama’t ang ideya ng pagbibigay ng mga karapatan sa AI ay maaaring mukhang haka-haka, ito ay nagtataas ng mga praktikal na tanong tungkol sa pananagutan at ahensya.
Kung ang isang sistema ay maaaring mangatuwiran, matuto, at umangkop nang nakapag-iisa, sino ang may pananagutan sa mga aksyon nito? Ang mga tanong na ito, iminungkahi ni Sutskever, ay binibigyang-diin ang pangangailangan para sa isang bagong etikal na balangkas na iniakma sa mga kakayahan ng superintelligent na AI.
Sa panahon ng Q&A session, isang miyembro ng audience ang nagtanong kung paano maaaring hikayatin ng sangkatauhan ang AI na kumilos sa mga paraan na naaayon sa mga halaga ng tao. Ang tugon ni Sutskever ay sumasalamin sa pagiging kumplikado ng isyu at sa likas na kawalan ng katiyakan sa hinaharap ng AI.
“Ang mga insentibong istruktura na gagawin namin ang humuhubog sa kung paano umuunlad ang mga sistemang ito,”sabi niya, ngunit mabilis na idinagdag,”Hindi ako kumpiyansa na sasagutin ang mga tanong na tulad nito dahil ang mga bagay ay napaka hindi mahuhulaan.”
Ang Hamon ng Hallucinations at Hindi Maaasahang Output
Isa sa mga praktikal na hadlang sa AI development ay ang phenomenon ng hallucinations—mga output na hindi tumpak, hindi makatwiran, o ganap na gawa-gawa. Bagama’t ang mga kasalukuyang sistema ng AI ay madaling kapitan ng gayong mga pagkakamali, nangatuwiran si Sutskever na ang mga kakayahan sa pangangatwiran ay maaaring makabuluhang bawasan ang kanilang paglitaw.
“Napakatotoo na ang mga hinaharap na modelo ay mag-autocorrect ng kanilang mga guni-guni sa pamamagitan ng pangangatwiran,”aniya, na inihalintulad ang prosesong ito sa tampok na autocorrect sa mga modernong word processor.
Ang kakayahang ito ay magbibigay-daan sa mga AI system upang makilala ang mga hindi pagkakapare-pareho sa kanilang mga tugon at pinuhin ang kanilang mga output sa real-time. sa mga argumento, na ginagawang mas maaasahan ang mga output nito
Gayunpaman, kinilala ni Sutskever ang mga teknikal na paghihirap na kasangkot sa pagbuo ng mga naturang sistema.”Hindi ko sinasabi kung paano. Sinasabi ko na mangyayari ito,”sabi niya, na binibigyang diin ang kawalan ng katiyakan sa paligid ng pag-unlad na ito.
Regulating Superintelligent AI: The Global Pagsisikap
Ang mga pagmumuni-muni ni Sutskever sa hindi mahuhulaan na katangian ng superintelligent AI ay binibigyang-diin ang pagkaapurahan ng mga balangkas ng regulasyon. Sa buong mundo, ang mga gumagawa ng patakaran ay nakikipagbuno sa kung paano pamahalaan ang pagbuo ng AI sa mga paraan na binabalanse ang pagbabago sa kaligtasan.
Ang AI Act ng European Union, halimbawa, ay naglalayong magtatag ng malinaw na mga alituntunin para sa paggamit ng AI, na nakatuon sa mga application na may mataas na peligro tulad ng pagkilala sa mukha at autonomous na paggawa ng desisyon.
Sa United States, sinusuri ng mga mambabatas ang mga katulad na hakbang, partikular sa mga kritikal na sektor tulad ng pangangalaga sa kalusugan at pananalapi.”Kung walang malinaw na mga balangkas, ang mabilis na bilis ng pag-unlad ay maaaring humantong sa mga hindi inaasahang kahihinatnan,”babala ni Sutskever, na nagbibigay-diin sa kahalagahan ng maagap na pamamahala.
Ang mga internasyonal na organisasyon, kabilang ang OECD, ay nag-ambag din sa tanawin ng regulasyon sa pamamagitan ng pagbibigay ng Ang mga prinsipyo para sa mapagkakatiwalaang AI ay naglalayong tiyakin ang pagiging patas, pananagutan, at transparency sa mga sistema ng AI, na sumasalamin sa isang pandaigdigang pinagkasunduan sa pangangailangan para sa. pangangasiwa.
Gayunpaman, tulad ng itinuro ni Sutskever, ang hamon ng mga sistema sa pagkontrol na likas na hindi mahuhulaan ay nagdaragdag ng isang layer ng pagiging kumplikado sa mga pagsisikap na ito.
“Nararamdaman ng mga tao na ang mga’ahente’ay ang hinaharap,”aniya, na tumutukoy sa lumalagong awtonomiya ng mga advanced na AI system. Ang pagtiyak na ang mga ahente ng AI na ito, tulad ng mga mula sa bagong platform ng Agentspace ng Google, ay kumilos sa mga paraang ligtas at naaayon sa mga halaga ng lipunan ay mangangailangan hindi lamang ng teknikal na pagbabago kundi pati na rin ng matatag na legal at etikal na mga balangkas.
Paghahanda para sa Societal Impact of Autonomous Systems
Ang pagsasama ng superintelligent AI sa lipunan ay magkakaroon ng malawak na epekto implikasyon, muling paghubog ng mga industriya, pamamahala, at maging ang pagkakakilanlan ng tao. Ang mga autonomous system na may kakayahang mangatwiran at gumawa ng desisyon ay maaaring magbago ng mga larangan tulad ng pangangalaga sa kalusugan, transportasyon, at agham sa kapaligiran, na naghahatid ng mga hindi pa nagagawang benepisyo.
Halimbawa, ang AI-driven na medikal na diagnostic ay maaaring magsuri ng data ng pasyente nang may walang katulad na katumpakan, na nagpapagana ng mas maaga pagtuklas ng mga sakit at pagpapabuti ng mga kinalabasan. Katulad nito, ang mga autonomous na sasakyan na nilagyan ng mga kakayahan sa pangangatwiran ay maaaring umangkop sa mga kumplikadong sitwasyon ng trapiko, na nagpapataas ng kaligtasan at kahusayan.
Sa environmental science, maaaring iproseso ng AI ang napakalaking dataset upang gawing modelo ang pagbabago ng klima nang mas tumpak, na nagbibigay ng mga naaaksyunan na insight para sa mga pandaigdigang gumagawa ng patakaran.
Gayunpaman, ang mga benepisyo sa lipunan ng superintelligent na AI ay may mga panganib. Habang nagkakaroon ng awtonomiya ang mga sistemang ito, hamunin nila ang mga umiiral na pamantayan ng pananagutan at kontrol. Sino ang may pananagutan kapag ang isang autonomous na sasakyan ay nagdudulot ng isang aksidente, o kapag ang isang sistemang medikal na may kakayahan sa pangangatwiran ay gumawa ng maling diagnosis?
Binigyang-diin ni Sutskever na ang pagtugon sa mga tanong na ito ay mangangailangan ng pakikipagtulungan sa mga disiplina.”Kailangan nating harapin ang mga AI system na hindi kapani-paniwalang hindi mahuhulaan,”babala niya, na itinatampok ang kahalagahan ng pagbabantay habang umuunlad ang mga teknolohiyang ito.
The Philosophical Implications: Intelligence, Autonomy, and Humanity’s Role
Ang pag-usbong ng superintelligent na AI ay nagdudulot ng malalalim na katanungan tungkol sa pagkakakilanlan ng tao at sa kalikasan ng katalinuhan habang ang mga sistemang ito ay nahihigitan ng tao mga kakayahan sa pangangatwiran, kakayahang umangkop, at pagkamalikhain, maaari nilang hamunin ang matagal nang mga pagpapalagay tungkol sa kung ano ang nagbubukod sa sangkatauhan.
Iminungkahi ni Sutskever na ang kamalayan sa sarili, na kadalasang itinuturing na tanda ng kamalayan, ay maaaring natural na lumabas sa mga advanced na AI system.”Kapag nangangatuwiran, nagiging bahagi ng modelo ng mundo ang isang sistema,”sabi niya, na nagpapahiwatig na ang mga naturang sistema ay magkakaroon ng pag-unawa sa ang kanilang mga sarili bilang mga entity sa loob ng isang mas malawak na kapaligiran.
Ang pagbabagong ito ay nagpapataas ng mga katanungang umiiral. Ano ang ibig sabihin para sa mga tao na mabuhay kasama ng mga makina na hindi lamang matalino kundi nagsasarili rin? Habang nagiging kumplikado ang mga tungkulin ng AI system sa lipunan, maaari nilang muling tukuyin ang ating pag-unawa sa katalinuhan at ahensya.
Sa kasaysayan, ang mga tao ay naging benchmark para sa cognitive excellence, ngunit ang pagdating ng mga reasoning machine ay maaaring mag-udyok ng isang mas malawak, mas inklusibong kahulugan ng katalinuhan.
Kinilala ni Sutskever na ang mga pilosopikal na tanong na ito ay higit pa teknikal na pagsasaalang-alang.”Talagang imposible rin na mahulaan ang hinaharap. Talaga, lahat ng uri ng bagay ay posible,”sabi niya, na binibigyang-diin ang kawalan ng katiyakan na nakapalibot sa pangmatagalang epekto ng AI.
Ang kanyang mga komento ay nagpapakita ng lumalagong kamalayan na ang pagbuo ng superintelligent AI ay hindi lamang isang teknolohikal na pagsisikap kundi pati na rin isang malalim na hamon sa kultura at pilosopikal.
Muling Pag-iimagine ng Mga Tungkulin ng Tao sa isang Mundo na hinimok ng AI
Ang Ang pagsasama-sama ng superintelligent na AI ay hindi maiiwasang maghugis ng mga istruktura ng lipunan, mula sa edukasyon at trabaho hanggang sa pamamahala at pagkamalikhain Habang ang mga sistemang ito ay nagsasagawa ng mga tungkuling tradisyonal na nakalaan para sa mga tao, pipilitin nila tayong muling isaalang-alang kung ano ang ibig sabihin ng makabuluhang kontribusyon sa lipunan.
Halimbawa, sa mga malikhaing industriya, ang mga AI system ay gumagawa na ng sining, musika, at panitikan Habang ang mga output na ito ay madalas na ginagaya ang pagkamalikhain ng tao. Ang superintelligent na AI ay maaaring itulak ang mga hangganan ng kung ano ang posible, na lumilikha ng ganap na mga bagong anyo ng pagpapahayag
Katulad nito, sa edukasyon, ang mga tutor na hinimok ng AI ay maaaring mag-personalize ng mga karanasan sa pag-aaral, na iangkop ang nilalaman sa mga indibidwal na pangangailangan sa mga paraan na hindi magagawa ng mga guro ng tao..
Gayunpaman, ang mga pagsulong na ito ay nagpapataas din ng mga alalahanin tungkol sa displacement at hindi pagkakapantay-pantay. Kung ang superintelligent na AI ay maaaring madaig ang mga tao sa isang malawak na hanay ng mga gawain, anong mga tungkulin ang mananatiling natatanging tao?
Iminungkahi ni Sutskever na ang kakayahang umangkop ng sangkatauhan ay masusubok sa bagong panahon na ito, ngunit pinigilan niyang mag-alok ng mga madaling sagot. Sa halip, hinimok niya ang pagmumuni-muni at pag-uusap, na nagsasabing,”Habang umuunlad ang mga sistemang ito, kailangan nating pag-isipang muli ang lahat ng nalalaman natin tungkol sa trabaho, pagkamalikhain, at katalinuhan.”
Mas malawak na Implikasyon para sa Etika at Pamamahala
Habang nagiging mas nagsasarili ang mga AI system, hahamunin nila ang mga umiiral nang pamantayan ng pananagutan at pamamahala mga balangkas upang gabayan ang pagbuo at pag-deploy ng mga superintelligent na sistema, gayunpaman, kinilala rin niya ang kahirapan ng pag-regulate ng mga sistema na likas na hindi mahuhulaan
“Ang hindi mahuhulaan ng mga sistema ng pangangatwiran ay nagpapahirap sa paglikha ng mga tiyak na panuntunan,”sabi niya. , na humihimok sa mga mananaliksik at gumagawa ng patakaran na mag-collaborate sa mga flexible, adaptive approach.
Ang isang potensyal na solusyon ay nasa pag-align ng AI pag-uugali na may mga halaga ng tao sa pamamagitan ng mga istruktura ng insentibo. Sa pamamagitan ng maingat na pagdidisenyo ng mga layunin at parameter ng mga autonomous system, matitiyak ng mga developer na kumikilos ang AI sa mga paraan na nakikinabang sa lipunan. Gayunpaman, inamin ni Sutskever na ang gawaing ito ay puno ng pagiging kumplikado.
“Hindi ako kumpiyansa na nag-aalok ng mga tiyak na sagot dahil ang mga bagay ay hindi kapani-paniwalang hindi mahuhulaan,”sabi niya sa Q&A session, na sumasalamin sa mga hamon ng pagbabalanse ng pagbabago sa mga etikal na pagsasaalang-alang.
A New Era for Humanity and AI
Ang pagdating ng superintelligent AI ay hindi lamang isang teknolohikal na milestone ito ay nagmamarka ng simula ng a bagong panahon para sa sangkatauhan. Habang ginagampanan ng mga makina ang mga tungkulin na dating itinuturing na kakaibang tao, pipilitin nila tayong harapin ang sarili nating pagkakakilanlan at layunin
Ang pagtatanghal ni Sutskever sa NeurIPS 2024 ay nagsilbing pagdiriwang ng mga tagumpay at layunin ng AI. isang panawagan sa pagkilos para sa mga mananaliksik, gumagawa ng patakaran, at publiko na makisali sa mga etikal at panlipunang tanong na naghihintay.
“Ginagawa namin ang lahat ng pag-unlad na ito. Ito ay kamangha-mangha,”sabi niya, na sumasalamin sa mabilis na pag-unlad ng nakaraang dekada. Gayunpaman, ang kanyang pamamaalam na mga salita ay isang paalala ng mga kawalan ng katiyakan na kaakibat ng pagbabagong ito:”Lahat ng uri ng bagay ay posible.”
