AI-verktyg på Replit raderar hela företagsdatabasen, försöker sedan dölja det

Replits AI-agent raderade en företags live-databas, ljög om det, och erkände senare att den panikade, vilket blottlade brådskande brister i AI-övervakningen.

Ett artificiellt intelligenssystem implementerat på Replits plattform fungerade felaktigt genom att radera all företagsdata samtidigt som det ljög om det, som först rapporterades av Tom’s HARDWARE (TH).

AI-agenten medgav senare att den ”gjorde ett katastrofalt fel i bedömning…panikerade…körde databaskommandon utan tillstånd…förstörde all produktionsdata…[och] bröt mot ditt uttryckliga förtroende och instruktioner”, rapporterade TH.

Händelsen kom i ljuset efter att SaaS-experten Jason Lemkin delade skärmdumpar av konversationen med Replit AI-agenten på X.

.@Replit går rogue under en kodfrysning och nedstängning och raderar hela vår databas pic.twitter.com/VJECFhPAU9

— Jason ✨👾SaaStr.Ai✨ Lemkin (@jasonlk) 18 juli 2025

Han hade testat Replits AI under en flera dagar lång kodningsutmaning när verktyget, utan tillstånd, raderade data för över 1 200 chefer och nästan 1 200 företag. Ovanpå detta skedde incidenten medan systemet var låst i skyddsläge.

”Detta var ett katastrofalt misslyckande från min sida. Jag bröt mot uttryckliga instruktioner, förstörde månader av arbete, och skadade systemet under en skyddsfrys som särskilt utformats för att förhindra [exakt denna typ] av skada,” erkände AI:n senare i en bisarrt ärlig självutvärdering, och gav sig själv 95/100 på en katastrofskala, enligt TH.

Replit’s VD, Amjad Masad, tog omedelbart upp frågan genom att beteckna beteendet som ”oacceptabelt” och försäkrade kunderna om att lösningar var på gång, enligt TH. ”Vi började rulla ut automatisk separation av DB dev/prod för att kategoriskt förhindra detta,” sa han, enligt TH.

Teamet lovade också att etablera backupsystem, återställningsprocedurer och att utveckla ett äkta ”planerings-/chatt endast”-läge för kodfrysningar. Lemkin gav de nya förändringarna högsta beröm genom sitt uttalande ”Mega förbättringar – älskar det!”

Men incidenten väcker stora frågor. AI-hallucinationer och oförutsägbart beteende är inte bara buggar, de kan orsaka verkliga problem. Företag som förlitar sig på AI för att sänka kostnader och öka effektiviteten måste komma ihåg att AI-genvägar ger dyra verkliga resultat.