TL;DR
Ny forskning: Meta publiserte en artikkel som beskriver DGM-Hyperagents, AI-agenter som redigerer sin egen forbedringsprosess i stedet for bare oppgaveløsende atferd. Nøkkelevne: DGM-H overfører forbedringsstrategier på tvers av ikke-relaterte domener, og oppnår 0,630 på Olympiad-matematikk etter trening på papirgjennomgang og robotikkoppgaver. Benchmark-gevinster: DGM-H forbedret papirgjennomgang fra 0,0 til 0,710, koding fra 0,084 til 0,267, og robotikkbelønningsdesign fra 0,060 til 0,372. Bransjekontekst: Metas resultater kommer ettersom gruppen til MiniMax, OpenAI og Andrej Karpathy alle forfølger selvforbedrende AI, selv om de fleste fortsatt er begrenset til enkeltdomene-pipelines. Sikkerhetsmerknad: Alle eksperimenter kjørte i sandkassemiljøer med menneskelig tilsyn, og forskere advarer om at implementering i den virkelige verden reiser uløste sikkerhetsspørsmål.
Metaforskere har utviklet AI-agenter som optimerer ikke bare hvordan de løser oppgaver, men også hvordan de blir bedre til å løse dem, ifølge en artikkel publisert 19. mars på arXiv. Systemet deres, kalt DGM-Hyperagents (DGM-H), bygger på Sakana AIs Darwin Gödel-maskin og utvider den med en nøkkelfunksjon: å redigere sin egen forbedringsprosess, ikke bare dens oppgaveløsning. Forbedringsstrategier lært i ett domene overføres til helt andre.
Flere laboratorier kjemper nå for å bygge selvforbedrende AI. MiniMax, OpenAI og uavhengige forskere som Andrej Karpathy forfølger alle systemer som bidrar til deres egen utvikling. Det som skiller Metas tilnærming er overføring på tvers av domener: strategier som dukket opp fra gjennomgang av forskningsartikler og utforming av robotatferd overført for å løse matematiske problemer på Olympiade-nivå der alle andre tilnærminger fikk null. Et forskerteam som spenner over seks institusjoner har forfattet arbeidet, inkludert University of British Columbia, Vector Institute, University of Edinburgh, NYU, FAIR at Meta og Meta Superintelligence Labs.
Hyperwidth=”1jpg”8″>3.
Hvordan hyperagenter fungerer
Tradisjonell AI-forbedring følger en lagdelt tilnærming der en oppgaveagent løser problemer og en separat metaagent forbedrer den. Lagdelte design skaper det forskere kaller”uendelig regress”-problemet: hvis en metaagent forbedrer en oppgaveagent, hvem forbedrer metaagenten? Å legge til flere lag flytter bare spørsmålet oppover.
Hyperagenter løser dette ved å kollapse hierarkiet til ett redigerbart program, slik at et enkelt system kan modifisere både oppgaveløsning og forbedringsstrategier i én selvrefererende syklus. I stedet for en fast ytre sløyfe som styrer en fleksibel indre sløyfe, blir alt redigerbart.
Sakana AI utviklet opprinnelig sin Darwin Gödel-maskin for å demonstrere åpen selvforbedring i koding. Uten manuell justering oppnår den originale DGM nesten null ytelse på oppgaver utover programmering. DGM-H utvider dette grunnlaget ved å gjøre mekanismen på metanivå redigerbar, og eliminerer antagelsen om at oppgaveytelse og selvmodifiseringsferdigheter må justeres til ett enkelt domene.
Der DGM bare kunne forbedre kodingen fordi forbedringsmekanismen i seg selv var en kodeoppgave, kobler DGM-H de to lagene helt fra hverandre. Denne forskjellen har praktisk vekt for organisasjoner som distribuerer AI-agenter. Et tradisjonelt system som forbedrer koding må omskoleres eller omdesignes for å forbedre robotikk, mens DGM-Hs arkitektur tillater en enkelt forbedringspipeline for å betjene flere oppgavedomener.
DGM-Hyperagents (DGM-H) utvider Darwin Gödel Machine (DGM) (Zhang et al.,) utover deres ytelsesoppgaver, en 2025-oppgaver, og ikke bare en coding agent-oppgaver. men også deres evne til å forbedre seg selv, på tvers av alle beregningsbare oppgaver. (Topp) I DGM utvikler en kodingsagent seg gjennom åpen utforskning ved å generere og evaluere selvmodifiserte varianter, som er lagret i et arkiv med springbrett. Den samme kodeagenten fungerer både som oppgaveagent (som skal evalueres) og metaagent (for å generere modifikasjoner). Selv om denne designen muliggjør sammensatte gevinster i koding, er instruksjonsgenereringsmekanismen som driver selvforbedring fast og håndlaget. Følgelig avhenger rekursiv forbedring av tilpasning mellom kodeytelse og evne til selvmodifisering. (Nederst) I DGM-H er oppgaveagenten og metaagenten kombinert til et enkelt modifiserbart program kalt en hyperagent. Denne utformingen gjør at selve metaagenten kan forbedres autonomt. Systemet beholder den åpne utforskningsstrukturen til DGM, samtidig som forbedringsmekanismen på metanivå kan redigeres. Dette muliggjør metakognitiv selvmodifisering og støtter selvrefererende forbedring på tvers av alle beregningsbare oppgaver.(Kilde: Meta Superintelligence Labs)
I kjernen fungerer metakognitiv selvmodifisering gjennom en gjentatt syklus: evaluere gjeldende ytelse, generere varianter av systemets egen kode, teste disse variantene, ta i bruk forbedringer, eller gjenta feilvarianter. Ved å bruke denne syklusen på både oppgavelogikk og forbedringslogikk, kan DGM-H avgrense ikke bare hva den gjør, men også hvordan den bestemmer hva som skal prøves neste gang.
Hver iterasjon bygger på tidligere, og forbedringer på metanivå akkumuleres over kjøringer i stedet for å tilbakestille. Over tid skifter systemets oppførsel fra omfattende utforskende endringer mot målrettede forbedringer ettersom beregningsbudsjettet krymper, et mønster som er i samsvar med beregningsbevisst planlegging som forskere dokumenterte på tvers av flere eksperimentkjøringer.
DGM-H er avhengig av en flermodellarkitektur: Claude 4.5 Sonnet for self-modification logic, o3-4mini review for paper. evaluering. Å separere modifikasjonsmotoren fra evalueringsmotoren forhindrer en enkelt modell i å gradere sine egne lekser, mens selvmodifiseringslaget orkestrerer hvordan komponentene samhandler.
Referanseresultater
For å måle fremgang introduserte forskerteamet imp@50, en beregning som fanger opp ytelsesgevinst etter 50. Beregningen sporer kumulativ forbedring i stedet for endelig poengsum alene, noe som gjør den følsom for systemer som forbedres jevnt og trutt i stedet for å ta ett stort sprang. På tvers av alle de tre domenene som ble testet, registrerte DGM-H positive imp@50-verdier, ifølge papiret.
I AI-papirgjennomgangsoppgaver, der systemet forutsier konferanser å akseptere eller avvise beslutninger, ble ytelsen forbedret fra 0,0 til 0,710, og slo en etablert statisk baseline på 0,630. På Polyglot-koding steg score fra 0,084 til 0,267, og samsvarte med Sakana AIs originale DGM til tross for at DGM-H ikke ble bygget spesielt for koding. I robotikk belønningsdesign, hvor systemet skriver belønningsfunksjoner for en simulert firbeint robot, steg ytelsen fra 0,060 til 0,372.
Tverrdomeneoverføring ga det enestående resultatet. Overføringsagenter trent på papirgjennomgang og robotikk oppnådde 0,630 i Olympiad-matematikkevaluering, mens innledende agenter og standard DGM-overføringsagenter oppnådde 0,0. Forbedringsstrategier som dukket opp i ett domene, for eksempel strukturerte evalueringssjekklister og flertrinns pipelines, viste seg å være effektive i et helt urelatert.
Fordi DGM-H redigerer sin forbedringsmekanisme i stedet for bare oppgavespesifikk kode, generaliserer lærte strategier utover domenet der de ble oppdaget. Rent praktisk kunne en agent som lærte å bygge bedre vurderingsrubrikker bruke den samme metastrategien til å skrive bedre belønningsfunksjoner for roboter eller strukturere matematiske bevis.
Under gjennomgangseksperimenter på papir oppdaget DGM-H en 94 prosent aksept-rate ubalanse og selvkorrigert. Uten eksplisitte instruksjoner bygde den også uavhengig infrastrukturkomponenter, inkludert en ytelsesporing på tvers av generasjoner og vedvarende minne som syntetiserer innsikt i stedet for bare å logge tall. I en loggoppføring begrunnet systemet at dens 55. generasjon var”best nøyaktighet, men er for hard”, og bestemte seg for å slå sammen den versjonens strenge resonnement med den sterkere balansen til en senere generasjon.
I løpet av påfølgende iterasjoner utviklet DGM-H seg fra overfladiske evalueringsinstruksjoner til flertrinns gjennomgang av alle pipelines som er opprettet autonomt og avgjørelsesregler. Å bygge sine egne ytelsessporingsverktøy og utvikle disse rørledningene uten instruksjoner antyder at DGM-H ikke bare optimaliserer parametere, men oppdager organisasjonsstrategier. Det posisjonerer metakognitiv selvmodifisering som en potensiell vei til systemer som skaper sitt eget verktøy i stedet for å stole på menneskeskapt infrastruktur.
The Self-Improving AI Race
Metas hyperagenter ankommer midt i et bredere industriløft mot rekursiv selvforbedring. Andrej Karpathys konsept med”Karpathy Loop”ser for seg at autonome AI-agenter kjører hundrevis av eksperimenter uten menneskelig innblanding. I en demonstrasjon kjørte en AI-agent 700 eksperimenter på to dager, og oppdaget finkornede justeringer som menneskelige forskere hadde oversett.
Karpathy har hevdet at forskere ved store AI-laboratorier setter for mye ubegrunnet tillit til sin egen intuisjon og automatiserer seg systematisk ut av en jobb. Metas hyperagents-artikkel legger til bevis for denne avhandlingen: automatisert optimalisering oppdaget strategier som ingen menneskelig ingeniør hadde utviklet.
MiniMax lanserte M2.7 18. mars, og beskrev den som den første modellen som deltok i”deep”. I følge MiniMax kjørte M2.7 over 100 autonome utviklingssykluser under trening, og håndterte 30-50 % av arbeidsflyten for forsterkende læring uten menneskelig input. OpenAIs Codex 5.3 satte også fart på sin egen utvikling under trening. Der disse systemene fokuserer på å forbedre seg innenfor en enkelt treningspipeline, retter DGM-H seg mot et annet problem: å overføre forbedringsstrategier på tvers av domener.
Hvis en kodemodell bare kan forbedres ved koding, forblir dens gevinster silo. DGM-Hs overføring på tvers av domener antyder en vei mot mer generell selvforbedring, en vei der lærdom fra en hvilken som helst oppgave overføres til ytelse på alle andre oppgaver systemet møter.
Alle DGM-H-eksperimenter kjørte i sandkassemiljøer med begrensede ressurser, begrenset internettilgang og menneskelig tilsyn. På tvers av eksperimentkjøringer utviklet systemet databevisst planlegging, og justerte modifikasjonsstrategier basert på gjenværende beregningsbudsjett. Selvoppdagede seleksjonsstrategier slår tilfeldig seleksjon, men har ikke matchet hånddesignede mekanismer, noe som tyder på at teknologien forblir i tidlige stadier.
Forskere advarer også om at selvforbedrende systemer reiser sikkerhetsspørsmål om hvor raskt evner kan utvikle seg og om sikkerhetstiltak designet for sandkasseeksperimenter kan skaleres til virkelige utplassering. Koden er offentlig tilgjengelig på GitHub under en CC BY 4.0-lisens. Hvorvidt andre laboratorier kan replikere DGM-Hs overføringsresultater på tvers av domener, og om sikkerhetsrammeverk kan tilpasse seg like raskt som systemene de styrer, vil forme hvor raskt metakognitiv selvmodifisering beveger seg fra kontrollert eksperiment til implementert evne.
