Az OpenAI társalapítója, Ilya Sutskever tegnap elgondolkodtató előadást tartott a NeurIPS 2024-en, amelyben a mesterséges intelligencia vízióját kínálja, amelyben a figyelemre méltó ígéret és a mélységes bizonytalanság keveredik.
NeurIPS 2024, vagyis a harmincnyolcadik éves konferencia a neurális információfeldolgozási rendszerekről, az egyik legjelentősebb és legbefolyásosabb konferencia a mesterséges intelligencia és a gépi tanulás területén. Az esemény 2024. december 10. és 15. között zajlik a kanadai vancouveri Vancouveri Kongresszusi Központban.
Sutskever előadása során ismertette a szuperintelligens mesterséges intelligencia esetleges megjelenését – olyan rendszerek, amelyek képesek az érvelésre, a kiszámíthatatlanságra, és az öntudat – és az etikai dilemmák, amelyeket ezek az előrelépések jelenthetnek.
A Safe Superintelligence Inc.-t (SSI) vezető Safe Superintelligence Inc. (SSI) az OpenAI májusi távozása után Sutskever úgy gondolja, hogy pusztán a modellek felnagyítása többé már nem a megoldás a mesterséges intelligencia fejlesztésére.
A kutatókból és iparági vezetőkből álló közönség előtt Sutskever hangsúlyozta, hogy a szuperintelligens AI alapvető eltérést jelent a mai rendszerektől. Míg a jelenlegi mesterséges intelligencia kiváló a mintafelismerést és intuíciót igénylő feladatokban, elmarad az érveléstől – ez a kognitív folyamat, amely összetett információk megértését és szintetizálását igényli.
“Minél többet okoskodik egy rendszer, annál kiszámíthatatlanabbá válik”-magyarázta Sutskever, hangsúlyozva a mesterséges intelligencia jövőbeli fejlődésének egyik kulcsfontosságú kihívását.
Megjósolta, hogy az érvelés, a kiszámíthatatlanság és még az önmaga is. A tudatosság meghatározza a mesterséges intelligencia rendszerek következő generációját A mai modellekkel ellentétben, amelyeket „nagyon enyhén ügynöknek” írt le, a szuperintelligens rendszerek valódiak lesznek. autonóm.
„Végül – előbb-utóbb – ezek a rendszerek ténylegesen ténylegesen hatásosak lesznek” – mondta, arra utalva, hogy ez az elmozdulás alapvetően átalakíthatja a mesterséges intelligencia és a világ közötti interakcióját.
A szuperintelligencia útja: A mesterséges intelligencia evolúciójának újbóli megtekintése
A szuperintelligencia felé vezető ugrás megértéséhez Sutskever újra áttekintette a mesterséges intelligencia fejlesztésének főbb mérföldköveit. Először a Long Short-Term Memory (LSTM) hálózatok korai sikereire gondolt. , a gépi tanulás alapvető eleme a 2000-es években.
“Az LSTM-ek lényegében egy 90°-kal elforgatott ResNet”-szögezte le, utalva ezeknek a neurális hálózatoknak a réteges felépítésére. Bár hatékonyak voltak a szekvenciális információk megőrzésében, az LSTM-ek küzdöttek a skálázhatósággal és hatékonysággal, ami korlátozta alkalmazhatóságukat nagyobb adatkészletekre és összetettebb feladatok.
Az áttörést a Transformers hozta meg, amely az LSTM-eket váltotta fel sok haladó számára választott architektúraként Az AI-rendszerek elődeiktől eltérően a Transformers hatalmas mennyiségű adatot tudtak feldolgozni egyidejűleg, így jelentős előrelépést tettek lehetővé olyan területeken, mint a természetes nyelvi feldolgozás és a képfelismerés.
Ezek az újítások megnyitották az utat az olyan modellek számára, mint az OpenAI GPT-sorozata. Transzformátorok, amelyek emberszerű szöveget generálnak és kifinomult feladatokat hajtanak végre.
Sutskever ennek a fejlődésnek a nagy részét a méretezés elfogadásának tulajdonította törvények – az az elv, hogy a nagyobb adathalmazokra kiképzett nagyobb modellek jobb teljesítményt nyújtanak „Ha nagyon nagy adatkészlettel rendelkezik, és nagyon nagy neurális hálózatot képez, a siker garantált” – mondta, kiemelve az OpenAI munkájának hajtóerejét.
Mégis figyelmeztetett, hogy a méretezésnek megvannak a korlátai: „Elértük a csúcsadatokat. Csak egy internet van.”
Sutskever, aki korábban a modellméretek bővítésének híve volt a jobb eredmények elérése érdekében, megváltozott a nézete, miután az iparág felismerte, hogy a méretezés csökkenő megtérüléssel jár.”A 2010-es évek a méretezés kora volt, most ismét a csodák és a felfedezések korába értünk mindenki a következőt keresi” – jegyezte meg nemrég Sutskever. hangsúlyozva, hogy „A megfelelő méretezés fontosabb, mint valaha”.
Ez a szűk keresztmetszet arra késztette a kutatókat, hogy alternatív stratégiákat – köztük szintetikus adatokat is – fedezzenek fel. A valós információ utánzására előállított szintetikus adatok lehetőséget kínálnak a A mesterséges intelligencia-rendszerek képzése anélkül, hogy egyre ritkábban jó minőségű adatkészletekre támaszkodna.
A Sutskever azonban elismerte, hogy a szintetikus adatok magukkal is járnak kihívásokat, megjegyezve: „Nagy kihívás annak kiderítése, hogy mit jelentenek a szintetikus adatok és hogyan használjuk őket.”
[beágyazott tartalom]
A mesterséges intelligencia valószínűleg körülbelül négy év múlva kifogynak az edzési adatok. Az adattulajdonosok, mint például az újságkiadók, elkezdik megszorítani tartalmuk felhasználásának módját, és még jobban szigorítják a hozzáférést.
Érvelési rendszerek kiépítése: Az előttünk álló technikai akadályok
Az egyik központi téma Sutskever előadásában az volt a kihívás, hogy olyan mesterséges intelligenciarendszereket építsenek, amelyek képesek valódi érvelésre, mint például az OpenAi új o1-modelljei. A jelenlegi modellek, mint például a GPT-4o, statisztikai összefüggésekre és mintafelismerésre támaszkodnak a problémák megoldásához, de az érvelés a kontextus, az ok-okozati összefüggések és a logika árnyaltabb megértését követeli meg.
„Az érvelési rendszerek kiszámíthatatlanok, mert túlmutatnak az intuíción,”-magyarázta Sutskever. Ez a kiszámíthatatlanság, bár az intelligencia jellemzője, megnehezíti az ilyen rendszerek irányítását és tesztelését.
A számítástechnika Az érvelés követelményei az egyszerűbb feladatoktól eltérően, amelyek párhuzamosak és optimalizálhatók a gyorsaság érdekében, olyan folyamatokat foglalnak magukban, amelyek több információréteget igényelnek Egy állandó probléma Sutskever hangsúlyozta, hogy ezeknek a kihívásoknak a megoldása kulcsfontosságú lesz a szuperintelligens mesterséges intelligencia lehetőségeinek megvalósításához.
Az akadályok ellenére optimista maradt. a mező pályájáról: „Ez a fejlődés elképesztő” – mondta, rámutatva a mesterséges intelligencia képességeinek az elmúlt évtizedben tapasztalt gyors fejlődésére. Megjegyzései az érvelési rendszerek fejlődésére jellemző izgatottságot és óvatosságot egyaránt tükrözték.
A szuperintelligens AI etikai vonatkozásai: jogok, együttélés és elszámoltathatóság
Ahogy Sutskever a technikai fejlődésről a szélesebb körű vonatkozásokra tért át, beleásta magát a mesterséges intelligencia egyik legvitatottabb témájába: a mesterséges intelligencia etikai kezelésére. autonóm rendszerek. Úgy gondolta, hogy a szuperintelligens mesterséges intelligencia érlelődése során elismerést és együttélést követelhet az emberiség mellett.
„Nem rossz eredmény, ha a mesterséges intelligencia együtt akar élni velünk, és jogaik vannak” – mondta, és provokatív víziót mutatott be az emberiség mellett. A mesterséges intelligencia több, mint egyszerű eszköz vagy technológia.
Sutskever megjegyzései összhangban állnak a mesterséges intelligencia irányításával és az etika, ahol a kutatók egyre inkább fontolgatják az intelligens rendszerek jogait és kötelezettségeit. Bár a mesterséges intelligencia jogainak megadása spekulatívnak tűnik, gyakorlati kérdéseket vet fel az elszámoltathatósággal és a cselekvéssel kapcsolatban , és önállóan alkalmazkodni, ki a felelős a tetteiért. Ezek a kérdések – javasolta Sutskever – rávilágítanak egy új, a szuperintelligens képességeihez szabott etikai keretrendszer szükségességére? AI.
A kérdezz-felelek szekció során egy hallgatóság megkérdezte, hogyan ösztönözhetné az emberiség a mesterséges intelligencia olyan cselekvésre, amely összhangban van az emberi értékekkel.
“Az általunk létrehozott ösztönző struktúrák alakítják majd ezeknek a rendszereknek a fejlődését”-mondta, de gyorsan hozzátette:”Nem vagyok magabiztos, hogy válaszoljak az ilyen kérdésekre, mert a dolgok olyan hihetetlenül kiszámíthatatlanok.”
A hallucinációk és a megbízhatatlan kimenetek kihívása
A mesterséges intelligencia fejlesztésének egyik gyakorlati akadálya a hallucinációk – pontatlan, logikátlan vagy teljesen kitalált kimenetek. Míg a jelenlegi mesterséges intelligencia rendszerek hajlamosak az ilyen hibákra, Sutskever azzal érvelt, hogy az érvelési képességek jelentősen csökkenthetik ezek előfordulását.
“Nagyon valószínű, hogy a jövőbeli modellek automatikusan kijavítják hallucinációikat érveléssel”-mondta, és ezt a folyamatot a modern szövegszerkesztők automatikus javítási funkciójához hasonlította.
Ez a képesség lehetővé tenné az AI-rendszerek számára. hogy felismerjék a válaszaik következetlenségeit, és valós időben finomítsák az eredményeket. Például egy, a jogi kutatásban használt érvelésre képes mesterséges intelligencia azonosíthatja a joggyakorlati hivatkozások vagy a logika eltéréseit. hiányosságok az érvek között, ami sokkal megbízhatóbbá teszi az eredményeket Azt mondom, hogy ez meg fog történni” – jegyezte meg, hangsúlyozva a fejlemény körüli bizonytalanságot.
A szuperintelligens AI szabályozása: The Global. Erőfeszítések
Sutskever gondolatai a szuperintelligens mesterséges intelligencia kiszámíthatatlan természetéről hangsúlyozták a szabályozási keretek sürgősségét. A döntéshozók szerte a világon azon küzdenek, hogyan irányítsák az AI-fejlesztést oly módon, hogy egyensúlyba kerüljön az innováció és a biztonság.
Az Európai Unió mesterséges intelligenciatörvényének célja például, hogy egyértelmű iránymutatásokat határozzon meg a mesterséges intelligencia használatára vonatkozóan, különös tekintettel a következőkre: magas kockázatú alkalmazások, mint például az arcfelismerés és az autonóm döntéshozatal.
Az Egyesült Államokban a törvényhozók hasonló intézkedéseket vizsgálnak, különösen az olyan kritikus ágazatokban, mint az egészségügy és a pénzügy.”Egyértelmű keretek nélkül a gyors fejlődés előre nem látható következményekhez vezethet”-figyelmeztetett Sutskever, hangsúlyozva a proaktív kormányzás fontosságát.
A nemzetközi szervezetek, köztük az OECD is hozzájárult a szabályozási környezet kialakításához kibocsátással. A megbízható mesterséges intelligencia alapelvei Ezek a kezdeményezések a méltányosságot, az elszámoltathatóságot és az átláthatóságot kívánják biztosítani az AI-rendszerekben, tükrözve a szükségességről szóló globális konszenzust. felügyeletre
Ahogyan azonban Sutskever rámutatott, az eredendően kiszámíthatatlan rendszerek szabályozásának kihívása összetettebbé teszi ezeket az erőfeszítéseket.
„Az emberek „ügynököknek” érzik magukat. a jövő” – mondta, utalva a fejlett AI-rendszerek növekvő autonómiájára. Annak biztosításához, hogy ezek a mesterséges intelligencia-ügynökök – a Google új Agentspace platformjához hasonlóan – biztonságosan és a társadalmi értékekkel összhangban tevékenykedjenek, nemcsak technikai innovációra lesz szükség, hanem szilárd jogi és etikai keretekre is.
Felkészülés. az autonóm rendszerek társadalmi hatásáért
A szuperintelligens mesterséges intelligencia integrálása a társadalomba messzemenő következményekkel jár, átformálja az iparágakat, a kormányzást, sőt az emberi identitást is. Az érvelésre és döntéshozatalra képes autonóm rendszerek forradalmasíthatják az olyan területeket, mint az egészségügy, a közlekedés és a környezettudomány, és példátlan előnyökkel járhatnak.
Például az AI által vezérelt orvosi diagnosztika páratlan pontossággal elemezheti a betegek adatait, lehetővé téve a korábbi kutatásokat. betegségek felismerése és az eredmények javítása. Hasonlóképpen, a gondolkodási képességekkel felszerelt autonóm járművek alkalmazkodhatnak az összetett forgalmi forgatókönyvekhez, növelve a biztonságot és a hatékonyságot.
A környezettudományban a mesterséges intelligencia hatalmas adathalmazokat dolgozhat fel az éghajlatváltozás pontosabb modellezésére, és gyakorlati betekintést nyújthat a globális döntéshozók számára.
A szuperintelligens mesterséges intelligencia társadalmi előnyei azonban kockázatokkal járnak. Amint ezek a rendszerek autonómiát nyernek, megkérdőjelezik az elszámoltathatóság és az ellenőrzés meglévő normáit. Ki a felelős, ha egy autonóm jármű balesetet okoz, vagy ha egy érvelésre képes egészségügyi rendszer helytelen diagnózist állít fel?
Sutskever hangsúlyozta, hogy ezeknek a kérdéseknek a megoldásához tudományágak közötti együttműködésre lesz szükség. „Olyan AI-rendszerekkel kell megküzdenünk, amelyek hihetetlenül kiszámíthatatlanok” – figyelmeztetett, kiemelve az éberség fontosságát, ahogy ezek a technológiák fejlődnek.
A filozófiai vonatkozások: intelligencia, autonómia és az emberiség szerepe
A szuperintelligens mesterséges intelligencia térnyerése mélyreható kérdéseket vet fel az emberi identitásról és az intelligencia természetéről. Mivel ezek a rendszerek felülmúlják az emberi képességeket az érvelés, az alkalmazkodóképesség és a kreativitás terén, megkérdőjelezhetik a régóta fennálló feltételezéseket arról, hogy mi különbözteti meg az emberiséget.
Sutskever azt javasolta, hogy megjelenhet az öntudat, amelyet gyakran a tudatosság fémjelének tartanak. Természetesen a fejlett mesterséges intelligencia rendszerekben az öntudat a rendszer világmodelljének részévé válik” – mondta. Ez arra utal, hogy az ilyen rendszerek egy tágabb környezetben lévő entitásként értelmeznék magukat.
Ez a váltás egzisztenciális kérdéseket vet fel. Mit jelent az, hogy az emberek együtt élnek olyan gépekkel, amelyek nemcsak intelligensek, hanem autonómak is? Ahogy a mesterséges intelligencia rendszerek egyre összetettebb szerepeket töltenek be a társadalomban, újradefiniálhatják az intelligenciáról és a cselekvésről alkotott felfogásunkat.
Történelmileg az ember volt a kognitív kiválóság mércéje, de az érvelő gépek megjelenése az intelligencia tágabb, átfogóbb meghatározását ösztönözheti.
Sutskever elismerte, hogy ezek a filozófiai kérdések túlmutatnak. technikai megfontolások. „Egyértelműen lehetetlen megjósolni a jövőt. Valójában mindenféle dolog lehetséges”-jegyezte meg, hangsúlyozva a mesterséges intelligencia hosszú távú hatásai körüli bizonytalanságot.
Megjegyzései azt az egyre növekvő tudatosságot tükrözik, hogy a szuperintelligens mesterséges intelligencia fejlesztése nem csupán technológiai törekvés, hanem egyben mély kulturális és filozófiai kihívás.
Az emberi szerepek újragondolása mesterséges intelligencia által vezérelve Világ
A szuperintelligens mesterséges intelligencia integrálása elkerülhetetlenül átformálja a társadalmi struktúrákat, az oktatástól és a foglalkoztatástól a kormányzásig és a kreativitásig. Mivel ezek a rendszerek hagyományosan az emberek számára fenntartott szerepeket töltik be, arra kényszerítenek bennünket, hogy átgondoljuk, mit ez azt jelenti, hogy jelentős mértékben hozzájárulunk a társadalomhoz.
Például a kreatív iparágakban az AI-rendszerek már művészetet, zenét és irodalmat is generálnak az emberi kreativitást utánozva a szuperintelligens mesterséges intelligencia kitágíthatja a lehetséges határait, teljesen új kifejezési formákat hozva létre. amit az emberi tanítók nem tudnak.
Mégis ezek az előrelépések aggályokat vetnek fel az elmozdulás és az egyenlőtlenség miatt. Ha a szuperintelligens mesterséges intelligencia a feladatok széles skálájában felülmúlja az embereket, akkor milyen szerepek maradnak egyedileg emberiek?
Sutskever azt javasolta, hogy az emberiség alkalmazkodóképességét próbára tegyék ebben az új korszakban, de tartózkodott attól, hogy egyszerű válaszokat adjon. Ehelyett bátorította a gondolkodást és a párbeszédet, és kijelentette: „Ahogy ezek a rendszerek fejlődnek, újra kell gondolnunk mindazt, amit a munkáról, a kreativitásról és az intelligenciáról tudunk.”
Tágabb értelemben vett vonatkozások az etikára és a kormányzásra
Ahogy a mesterséges intelligencia rendszerek autonómabbá válnak, megkérdőjelezik a meglévő elszámoltathatósági és irányítási normákat, hangsúlyozta Sutskever A szuperintelligens rendszerek fejlesztését és bevezetését irányító robusztus keretek létrehozásáról azonban elismerte, hogy az eredendően kiszámíthatatlan rendszerek szabályozása nehézkes.”-mondta, és arra buzdította a kutatókat és a döntéshozókat, hogy működjenek együtt rugalmas, adaptív megközelítések kidolgozásában.
Az egyik lehetséges megoldás abban rejlik, hogy a mesterséges intelligencia viselkedését összehangolják az emberi értékekkel. ösztönző struktúrák. Az autonóm rendszerek céljainak és paramétereinek gondos megtervezésével a fejlesztők biztosíthatják, hogy a mesterséges intelligencia a társadalom javát szolgáló módon járjon el. Sutskever azonban elismerte, hogy ez a feladat tele van bonyolultsággal.
„Nem érzem magam magabiztosnak, hogy határozott válaszokat adjak, mert a dolgok olyan hihetetlenül kiszámíthatatlanok” – mondta a kérdezz-felelek ülésén, tükrözve az innováció és az etikai megfontolások közötti egyensúlyozás kihívásait.
Az emberiség és a mesterséges intelligencia új korszaka
A szuperintelligens mesterséges intelligencia megjelenése nem csupán technológiai mérföldkő az emberiség új korszakának kezdete Miközben a gépek olyan szerepeket töltenek be, amelyeket egykor egyedülállóan emberinek tartottak, arra kényszerítenek bennünket, hogy szembenézzünk saját identitásunkkal és célunkkal. a mesterséges intelligencia eredményeiről, valamint cselekvésre ösztönzi a kutatókat, a döntéshozókat és a nyilvánosságot, hogy foglalkozzanak az előttünk álló etikai és társadalmi kérdésekkel.
„Elképesztően haladunk” – mondta az elmúlt évtized gyors fejlődésére gondolva. Mégis búcsúszavai emlékeztettek az ilyen átalakuló változásokkal járó bizonytalanságokra: „Mindenféle dolog lehetséges.”
