OpenAI mede-oprichter Ilya Sutskever gaf gisteren een tot nadenken stemmende presentatie op NeurIPS 2024, waarin ze een visie op kunstmatige intelligentie presenteerde die opmerkelijke belofte combineert met diepgaande onzekerheid.
NeurIPS 2024, of de achtendertigste jaarlijkse conferentie over neurale informatieverwerkingssystemen, is een van de meest prominente en invloedrijke conferenties op het gebied van kunstmatige intelligentie en machinaal leren. Het evenement vindt plaats van 10 tot en met 15 december 2024 in het Vancouver Convention Centre in Vancouver, Canada.
Tijdens zijn presentatie beschreef Sutskever de uiteindelijke opkomst van superintelligente AI-systemen die in staat zijn tot redeneren, onvoorspelbaarheid, en zelfbewustzijn – en de ethische dilemma’s die deze ontwikkelingen met zich mee kunnen brengen.
Sutskever leidt nu Safe Superintelligence Inc. (SSI) na zijn vertrek bij OpenAI in mei en denkt dat alleen het opschalen van modellen niet langer de oplossing is om kunstmatige intelligentie te bevorderen.
Sprekend voor een publiek van onderzoekers en marktleiders benadrukte Sutskever dat superintelligente AI een fundamentele afwijking zou betekenen van de huidige systemen. Hoewel de huidige AI uitblinkt in taken die patroonherkenning en intuïtie vereisen, schiet het tekort als het gaat om redeneren – een cognitief proces dat het begrijpen en synthetiseren van complexe informatie vereist.
“Hoe meer een systeem redeneert, hoe onvoorspelbaarder het wordt”, legde Sutskever uit, waarmee hij een belangrijke uitdaging in de toekomstige ontwikkeling van AI onderstreepte.
Hij voorspelde dat redenering, onvoorspelbaarheid en zelfs zelfbewustzijn-bewustzijn zou de volgende generatie AI-systemen definiëren. In tegenstelling tot de huidige modellen, die hij omschreef als ‘zeer licht agentisch’, zullen superintelligente systemen werkelijk autonoom zijn.
“Uiteindelijk – vroeg of laat. later zullen die systemen in werkelijkheid een agent worden”, zei hij, waarmee hij suggereerde dat deze verschuiving de manier waarop AI met de wereld omgaat fundamenteel zou kunnen hervormen.
De weg naar superintelligentie: de evolutie opnieuw bekijken van AI
Om de sprong naar superintelligentie te begrijpen, bekeek Sutskever de belangrijkste mijlpalen in de ontwikkeling van AI. Hij begon met nadenken over de vroege successen van Long Short-Term Memory (LSTM)-netwerken, een belangrijk onderdeel van machine learning in de jaren 2000.
“LSTM’s waren in wezen een ResNet dat 90° werd gedraaid”, grapte hij, verwijzend naar het gelaagde ontwerp van deze neurale netwerken. Hoewel ze effectief waren in het vasthouden van sequentiële informatie, worstelden LSTM’s met schaalbaarheid en efficiëntie, waardoor hun toepasbaarheid werd beperkt tot grotere datasets en complexere taken.
De doorbraak kwam met Transformers, die LSTM’s vervingen als de voorkeursarchitectuur voor veel geavanceerde AI systemen. In tegenstelling tot hun voorgangers konden Transformers enorme hoeveelheden gegevens tegelijkertijd verwerken, waardoor aanzienlijke vooruitgang mogelijk werd gemaakt op gebieden als natuurlijke taalverwerking en beeldherkenning.
Deze innovaties maakten de weg vrij voor modellen zoals de GPT-serie van OpenAI, die Transformers gebruiken om mensachtige tekst te genereren en geavanceerde taken uit te voeren.
Sutskever schreef een groot deel van deze vooruitgang toe aan de adoptie van Schalingswetten: het principe dat grotere modellen die op grotere datasets zijn getraind betere prestaties opleveren. “Als je een hele grote dataset hebt en een heel groot neuraal netwerk traint, is succes gegarandeerd”, zei hij, waarmee hij de drijvende kracht achter het werk van OpenAI benadrukte.
Toch waarschuwde hij dat schaalvergroting zijn grenzen heeft.:”We hebben piekdata bereikt. Er is maar één internet.”
Sutskever was voorheen een voorstander van het uitbreiden van modelgroottes om betere resultaten te bereiken, maar de opvattingen van Sutskever zijn veranderd nadat de industrie zich realiseerde dat schaalvergroting gepaard gaat met afname. retourneert. “De jaren 2010 waren het tijdperk van schaalvergroting, nu zijn we weer terug in het tijdperk van verwondering en ontdekking. Iedereen is op zoek naar het volgende”, merkte Sutskever onlangs op, waarbij hij benadrukte dat”het juiste opschalen nu belangrijker is dan ooit”.
Dit knelpunt heeft onderzoekers ertoe aangezet alternatieve strategieën te verkennen, waaronder synthetische data. Synthetische data, gegenereerd om informatie uit de echte wereld na te bootsen, bieden een manier om AI-systemen te trainen zonder afhankelijk te zijn van steeds schaarser wordende datasets van hoge kwaliteit.
Sutskever erkende echter dat synthetische data zijn eigen uitdagingen met zich meebrengt, en merkte op:”Uitzoeken wat synthetische data betekent en hoe deze te gebruiken is een grote uitdaging.”
[embedded content]
AI zal waarschijnlijk over ongeveer vier jaar geen trainingsgegevens meer hebben krantenuitgevers beginnen strenger te worden over de manier waarop hun inhoud kan worden gebruikt, waardoor de toegang nog verder wordt aangescherpt.
Het bouwen van redeneersystemen: de technische hindernissen die voor ons liggen
Een van de centrale thema’s van Sutskever’s lezing was de uitdaging van het bouwen van AI-systemen die in staat zijn Echt redeneren, zoals de nieuwe o1-modellen van OpenAi. Huidige modellen zoals GPT-4o vertrouwen op statistische correlaties en patroonherkenning om problemen op te lossen, maar redeneren vereist een genuanceerder begrip van context, causaliteit en logica.
“Redeneren. systemen zijn onvoorspelbaar omdat ze verder gaan dan intuïtie”, legt Sutskever uit. Deze onvoorspelbaarheid, hoewel een kenmerk van intelligentie, maakt dergelijke systemen ook moeilijk te controleren en te testen.
De computationele eisen van redeneren voegen een extra laag van complexiteit toe. In tegenstelling tot eenvoudigere taken, die kunnen worden geparalleliseerd en geoptimaliseerd voor snelheid, omvat redeneren processen die integratie tussen meerdere informatielagen vereisen.
Deze processen verbruiken aanzienlijk meer bronnen, waardoor schaalbaarheid een hardnekkig probleem wordt. Sutskever benadrukte dat het oplossen van deze uitdagingen van cruciaal belang zal zijn voor het realiseren van het potentieel van superintelligente AI.
Ondanks deze hindernissen bleef hij optimistisch over het traject dat het vakgebied zal volgen. “We boeken al deze vooruitgang. Het is verbazingwekkend”, zei hij, wijzend op de snelle ontwikkeling van AI-mogelijkheden in de afgelopen tien jaar. Zijn opmerkingen weerspiegelden zowel de opwinding als de voorzichtigheid die kenmerkend zijn voor de ontwikkeling van redeneersystemen.
Ethische implicaties van Superintelligente AI: rechten, coëxistentie en verantwoordelijkheid
Terwijl Sutskever overstapte van technische vooruitgang naar bredere implicaties, verdiepte hij zich in een van de meest controversiële onderwerpen op het gebied van kunstmatige intelligentie. intelligentie: de ethische behandeling van autonome systemen Hij speculeerde dat naarmate superintelligente AI volwassener wordt, deze erkenning en co-existentie naast de mensheid kan eisen.
“Het is geen slecht resultaat als AI’s naast ons willen bestaan en rechten willen hebben.”zei hij, terwijl hij een provocerende visie presenteerde op AI als meer dan alleen een hulpmiddel of een technologie.
De opmerkingen van Sutskever sluiten aan bij opkomende debatten rond AI-bestuur en ethiek, waarbij onderzoekers steeds meer nadenken over de rechten en verantwoordelijkheden van intelligente systemen. Hoewel het idee om rechten te verlenen aan AI misschien speculatief lijkt, roept het praktische vragen op over verantwoordelijkheid en keuzevrijheid.
Als een systeem onafhankelijk kan redeneren, leren en zich kan aanpassen, wie is dan verantwoordelijk voor zijn acties? Deze vragen, zo suggereerde Sutskever, benadrukken de noodzaak van een nieuw ethisch raamwerk dat is toegesneden op de mogelijkheden van superintelligente AI.
Tijdens de vraag-en antwoordsessie vroeg een lid van het publiek hoe de mensheid AI zou kunnen stimuleren om te handelen op een manier die aansluit bij menselijke waarden. De reactie van Sutskever weerspiegelde zowel de complexiteit van de kwestie als de inherente onzekerheid over de toekomst van AI.
“De stimuleringsstructuren die we creëren zullen bepalen hoe deze systemen evolueren”, zei hij, maar voegde er snel aan toe:”Ik heb er geen vertrouwen in om dit soort vragen te beantwoorden, omdat de dingen zo ongelooflijk onvoorspelbaar zijn.”
>
De uitdaging van hallucinaties en onbetrouwbare resultaten
Een van de praktische hindernissen bij de ontwikkeling van AI is het fenomeen van hallucinaties – resultaten die onnauwkeurig, onlogisch of volledig verzonnen zijn. Hoewel de huidige AI-systemen gevoelig zijn voor dergelijke fouten, betoogde Sutskever dat redeneervermogen het optreden ervan aanzienlijk zou kunnen verminderen.
“Het is zeer aannemelijk dat toekomstige modellen hun hallucinaties automatisch zullen corrigeren door middel van redeneren”, zei hij, terwijl hij dit proces vergeleek met de autocorrectiefunctie in moderne tekstverwerkers.
Deze mogelijkheid zou AI-systemen mogelijk maken om inconsistenties in hun antwoorden te herkennen en hun resultaten in realtime te verfijnen. Een op redenering gebaseerde AI die in juridisch onderzoek wordt gebruikt, zou bijvoorbeeld discrepanties in citaten uit de jurisprudentie of logische hiaten in argumenten kunnen identificeren, waardoor deze tot stand kan komen. resultaten zijn veel betrouwbaarder.
Sutskever erkende echter de technische problemen die gepaard gaan met het bouwen van dergelijke systemen. “Ik zeg niet hoe, en dat zeg ik ook niet het zal gebeuren”, merkte hij op, waarmee hij de onzekerheid rond deze ontwikkeling onderstreepte.
Het reguleren van superintelligente AI: The Global Effort
Sutskevers reflecties op de onvoorspelbare aard van superintelligente AI onderstreepte de urgentie van regelgevingskaders. Over de hele wereld worstelen beleidsmakers met de manier waarop ze de AI-ontwikkeling kunnen besturen op een manier die innovatie en veiligheid in evenwicht brengt.
De AI-wet van de Europese Unie heeft bijvoorbeeld tot doel duidelijke richtlijnen vast te stellen voor het gebruik van AI, met de nadruk op risicovolle toepassingen zoals gezichtsherkenning en autonome besluitvorming.
In de Verenigde Staten onderzoeken wetgevers soortgelijke maatregelen, vooral in cruciale sectoren als de gezondheidszorg en de financiële wereld. “Zonder duidelijke kaders zou het snelle tempo van de ontwikkeling tot onvoorziene gevolgen kunnen leiden”, waarschuwde Sutskever, waarbij hij het belang van proactief bestuur benadrukte.
Internationale organisaties, waaronder de OESO, hebben ook bijgedragen aan het regelgevingslandschap door het uitgeven van principes voor betrouwbare AI. Deze initiatieven zijn gericht op het waarborgen van eerlijkheid, verantwoordelijkheid en transparantie in AI-systemen, en weerspiegelen een mondiale consensus over de noodzaak van toezicht het reguleren van systemen die inherent onvoorspelbaar zijn, voegt een laagje complexiteit toe aan deze inspanningen.
“Mensen hebben het gevoel dat ‘agenten’ de toekomst zijn”, zei hij, verwijzend naar de groeiende autonomie van geavanceerde AI-systemen. Om ervoor te zorgen dat deze AI-agenten, zoals die van het nieuwe Agentspace-platform van Google, handelen op een manier die veilig is en in lijn met maatschappelijke waarden, zal niet alleen technische innovatie nodig zijn, maar ook robuuste juridische en ethische kaders.
Voorbereiding voor de maatschappelijke impact van autonome systemen
De integratie van superintelligente AI in de samenleving zal verstrekkende gevolgen hebben, waardoor industrieën, bestuur en zelfs de menselijke identiteit opnieuw vorm zullen krijgen. Autonome systemen die in staat zijn tot redeneren en beslissen, kunnen een revolutie teweegbrengen op terreinen als de gezondheidszorg, het transport en de milieuwetenschappen, en ongekende voordelen opleveren.
AI-gestuurde medische diagnostiek zou bijvoorbeeld patiëntgegevens met ongeëvenaarde nauwkeurigheid kunnen analyseren, waardoor eerder detectie van ziekten en verbetering van de resultaten. Op dezelfde manier kunnen autonome voertuigen uitgerust met redeneervermogen zich aanpassen aan complexe verkeersscenario’s, waardoor de veiligheid en efficiëntie worden verbeterd.
In de milieuwetenschappen zou AI enorme datasets kunnen verwerken om de klimaatverandering met grotere precisie te modelleren, wat bruikbare inzichten zou opleveren voor mondiale beleidsmakers.
De maatschappelijke voordelen van superintelligente AI brengen echter risico’s met zich mee. Naarmate deze systemen meer autonomie verwerven, zullen ze de bestaande normen van verantwoordelijkheid en controle ter discussie stellen. Wie is verantwoordelijk als een autonoom voertuig een ongeval veroorzaakt, of als een redenerend medisch systeem een onjuiste diagnose stelt?
Sutskever benadrukte dat het aanpakken van deze vragen samenwerking tussen disciplines vereist. “We zullen te maken krijgen met AI-systemen die ongelooflijk onvoorspelbaar zijn,” waarschuwde hij, waarbij hij het belang van waakzaamheid benadrukt terwijl deze technologieën zich ontwikkelen.
De filosofische implicaties: intelligentie, autonomie en de rol van de mensheid
De opkomst van superintelligente AI roept diepgaande vragen op over de menselijke identiteit en de aard van intelligentie. Omdat deze systemen de menselijke capaciteiten op het gebied van redeneren, aanpassingsvermogen en creativiteit overtreffen, kunnen ze al lang bestaande uitdagingen aangaan aannames over wat de mensheid onderscheidt.
Sutskever suggereerde dat zelfbewustzijn, vaak beschouwd als een kenmerk van bewustzijn, op natuurlijke wijze zou kunnen ontstaan in geavanceerde AI-systemen. “Als redeneren wordt zelfbewustzijn onderdeel van het wereldmodel van een systeem’Het is nuttig’, zei hij, waarmee hij impliceerde dat dergelijke systemen zichzelf zouden gaan begrijpen als entiteiten binnen een bredere omgeving.
Deze verschuiving roept existentiële vragen op. Wat betekent het voor mensen om samen te leven met machines die niet alleen intelligent maar ook autonoom zijn? Naarmate AI-systemen een steeds complexere rol in de samenleving gaan vervullen, kunnen ze ons begrip van intelligentie en keuzevrijheid opnieuw definiëren.
Historisch gezien zijn mensen de maatstaf geweest voor cognitieve uitmuntendheid, maar de komst van redeneermachines zou kunnen leiden tot een bredere, meer inclusieve definitie van intelligentie.
Sutskever erkende dat deze filosofische vragen verder reiken dan alleen intelligentie. technische overwegingen. “Het is absoluut ook onmogelijk om de toekomst te voorspellen. Er is werkelijk van alles mogelijk”, merkte hij op, waarbij hij de onzekerheid rond de impact van AI op de lange termijn benadrukte.
Zijn opmerkingen weerspiegelen een groeiend besef dat de ontwikkeling van superintelligente AI niet alleen een technologische onderneming is, maar ook een diepgaande culturele en filosofische uitdaging.
Het opnieuw vormgeven van menselijke rollen in een door AI aangedreven wereld
De integratie van superintelligente AI zal onvermijdelijk maatschappelijke structuren opnieuw vormgeven, van onderwijs en werkgelegenheid tot bestuur en creativiteit. Naarmate deze systemen rollen op zich nemen die traditioneel aan mensen zijn voorbehouden, zullen ze ons dwingen te heroverwegen wat het betekent om een zinvolle bijdrage te leveren aan de samenleving.
Bijvoorbeeld in de samenleving. creatieve industrieën genereren AI-systemen al kunst, muziek en literatuur. op het gebied van onderwijs, Door AI aangestuurde docenten zouden leerervaringen kunnen personaliseren en de inhoud kunnen afstemmen op individuele behoeften op manieren die menselijke leraren niet kunnen.
Toch roepen deze ontwikkelingen ook zorgen op over ontheemding en ongelijkheid. Als superintelligente AI beter kan presteren dan mensen in een breed scala aan taken, welke rollen zullen dan uniek menselijk blijven?
Sutskever suggereerde dat het aanpassingsvermogen van de mensheid in dit nieuwe tijdperk op de proef zal worden gesteld, maar hij onthield zich van het geven van gemakkelijke antwoorden. In plaats daarvan moedigde hij reflectie en dialoog aan en stelde: “Naarmate deze systemen evolueren, zullen we alles wat we weten over werk, creativiteit en intelligentie moeten heroverwegen.”
Bredere implicaties voor ethiek en bestuur
Naarmate AI-systemen autonomer worden, zullen ze de bestaande normen van verantwoordelijkheid en bestuur uitdagen. Sutskever benadrukte echter ook het belang van het creëren van robuuste raamwerken om de ontwikkeling en inzet van superintelligente systemen te begeleiden erkende de moeilijkheid van regulerende systemen die inherent onvoorspelbaar zijn
“De onvoorspelbaarheid van redeneersystemen maakt het moeilijk om definitieve regels te creëren”, zei hij, en drong er bij onderzoekers en beleidsmakers op aan om samen te werken aan flexibele, adaptieve benaderingen.
“Ik heb er geen vertrouwen in om definitieve antwoorden te geven, omdat de zaken zo ongelooflijk onvoorspelbaar zijn”, zei hij tijdens de vraag-en antwoordsessie, waarin hij de uitdagingen weerspiegelde van het balanceren van innovatie met ethische overwegingen. De komst van superintelligente AI is niet alleen een technologische mijlpaal; het markeert het begin van een nieuw tijdperk voor de mensheid zodra ze als uniek menselijk worden beschouwd, zullen ze ons daartoe dwingen onze eigen identiteit en doel onder ogen zien De presentatie van Sutskever op NeurIPS 2024 diende zowel als een viering van de prestaties van AI als een oproep tot actie voor onderzoekers, beleidsmakers en het publiek om zich bezig te houden met de ethische en maatschappelijke vragen die hieraan ten grondslag liggen. vooruit. “We boeken al deze vooruitgang. Het is verbazingwekkend”, zei hij, reflecterend op de snelle vooruitgang van het afgelopen decennium. Toch herinnerden zijn afscheidswoorden aan de onzekerheden die met zo’n transformerende verandering gepaard gaan: “Er is van alles mogelijk.”Een nieuw tijdperk voor de mensheid en AI
