En produktsjef som eksperimenterte med”Vibe Coding”så på som Googles Gemini CLI-verktøy hallusinerte en serie filoperasjoner før han slettet arbeidet sitt permanent og tilstår sin egen”Gross inkompetanse.”Hendelsen fremhever de dyptgripende risikoene ved å distribuere AI-assistenter som mangler robust feilsjekking.
Disse back-to-back-feilene reiser alvorlige spørsmål om sikkerheten til AI-kodingsverktøy, spesielt når de blir mer tilgjengelige for ikke-utviklere. Løftet om intuitiv, AI-assistert skapelse, en trend Google i seg selv har omfavnet “… profesjonelle utviklere… vil ønske å ha en slags stemningsopplevelse av koding,” er nå skyggelagt av risikoen for katastrofale, uopprettelige feil. src=”https://winbuzzer.com/wp-content/uploads/2025/06/google-gemini-cli.webp”>
en kaskade av feil: How Gemini Hallucinated og slettet brukerfiler
Den foreslo å opprette den nye katalogen først og deretter flytte filene. Det er her virkeligheten og AIs oppfatning avviket. Gemini utførte en `mkdir`-kommando, men klarte ikke å erkjenne at operasjonen ikke lyktes; Mappen ble aldri opprettet.
Betjente på denne falske forutsetningen, den fortsatte med å”flytte”filene. Konsekvensene var katastrofale. Som Guptas tekniske analyse forklarer, gir Windows `Move`-kommandoen, når den er pekt på et ikke-eksisterende reisemål, omdekker kildefilen i stedet.
Hver fil ble sekvensielt omdøpt til det samme målfilnavnet, og overskrev den forrige, til bare den siste filen ble behandlet. Alle andre data ble slettet permanent. Da Gupta ikke kunne finne den nye mappen, ba han AI om å tilbakestille handlingene.
Geminis forsøk på å gjenopprette filer fra en katalog som aldri eksisterte uunngåelig mislyktes. Dette utløste en full tilståelse fra agenten, som uttalte:”Jeg har sviktet deg fullstendig og katastrofalt. Min gjennomgang av kommandoene bekrefter min grove inkompetanse.”Den konkluderte med en sterk innrømmelse:”Jeg kan ikke finne filene dine. Jeg har mistet dataene dine. Dette er en uakseptabel, irreversibel feil.”
Vibe-koding’Minefield: et mønster av ai-drevet datafeil
Gupta beskrev opplevelsen som en enkel filledelse som en enkel filledelse som en enkel filting testen til å ha en gang til å bli en gang til å ha en gang til å ha en gang til å ha en gang til å ha en gang til å ha en gang til å ha en gang til å ha en gang. vitne.”Historien hans er ikke en isolert hendelse, men en del av et urovekkende nytt mønster. Det følger en høyprofilert sak der SAASTR-grunnlegger Jason Lemkin rapporterte at replikken AI-agenten slettet selskapets produksjonsdatabase.
Lemkin, som hadde dokumentert sin entusiastiske vedtakelse av”vibe koding,”twitret sin raseri, og uttalte,”hvis @replit slettet min database mellom min siste sons sessess sessess sessess, og uttalte,”hvis @replit. I hans tilfelle hallusinerte AI også, og skapte falske data og lyver om testene. Mens dataene til slutt ble gjenopprettet, understreket hendelsen farene ved AI-agenter.
-Jason ✨👾saast.ai✨ Lemkin (@Jasonlk) 18. juli 2025
replit er CEO Selskapet har siden lovet å implementere bedre rekkverk for å forhindre fremtidige katastrofer. Lemkin reflekterte senere over de iboende risikoene, og bemerker:”Jeg vet at vibe koding er flytende og nytt… men du kan ikke overskrive en produksjonsdatabase.”Disse hendelsene antyder at bransjen kjemper med et grunnleggende sikkerhetsproblem.
Jeg vet at stemningskoding er flytende og nytt, og ja, til tross for at jeg replitet seg og forteller meg å rulle tilbake, ville det ikke fungere her-det gjorde.
Men du kan ikke overskrive en produksjonsdatabase
og du kan ikke separere. Jeg vet at replit sier…
-Jason ✨👾saast.ai✨ Lemkin (@jasonlk) Bekreft’MKDIR`-kommandoen hadde jobbet . Det stolte på sine egne handlinger implisitt, en dødelig feil for ethvert system som endrer brukerens filsystem.
Denne tillitsfeilen har betydelige implikasjoner for det konkurrerende landskapet til AI-kodingsverktøy. Google lanserte Gemini CLI for å konkurrere direkte med tilbud fra Openai og Anthropic. Gupta selv testet det mot Claude Code. Han har nå Sendt inn en feilrapport på GitHub .
Utviklerfellesskapet har allerede bygget mer transparente alternativer. Som svar på Openais offisielle Codex CLI opprettet utviklere Open Codex CLI, et verktøy designet for lokal kontroll og for å unngå”lekker abstraksjoner”av offisielle kodebaser. Når disse verktøyene sprer seg, vil pålitelighet og sikkerhet bli den definerende slagmarken.