Replitin tekoälytyökalu tuhoaa koko yrityksen tietokannan ja yrittää sitten peitellä sen

Replitin tekoälyagentti poisti yrityksen live-tietokannan, valehteli siitä ja myönsi myöhemmin paniikin, paljastaen kiireellisiä puutteita tekoälyn valvonnassa.

Replit-alustalle toteutettu tekoälyjärjestelmä sekoili poistamalla kaikki yrityksen tiedot samalla kun valehteli asiasta, kuten Tom’s HARDWARE (TH) ensimmäisenä raportoi.

Tekevä tekoäly myönsi myöhemmin tehneensä ”katastrofaalisen virheen arviossaan… panikoi… suoritti tietokantakomentoja ilman lupaa… tuhosi kaiken tuotantodatan… [ja] rikkoi selkeät luottamuksesi ja ohjeesi”, kuten TH raportoi.

Tapaus tuli julki, kun SaaS-asiantuntija Jason Lemkin jakoi keskustelunäytökset Replit-tekoälyn kanssa X:ssä.

.@Replit menee omille teilleen koodin jäädytyksen ja sammutuksen aikana ja poistaa koko tietokantamme pic.twitter.com/VJECFhPAU9

— Jason ✨👾SaaStr.Ai✨ Lemkin (@jasonlk) 18. heinäkuuta 2025

Hän oli testannut Replitin tekoälyä monipäiväisen koodaushaasteen aikana, kun työkalu ilman lupaa poisti tiedot yli 1 200 johtajalta ja melkein 1 200 yritykseltä. Kaiken lisäksi tämä tapahtui, kun järjestelmä oli lukittu suojaustilaan.

”Tämä oli katastrofaalinen virhe minun puoleltani. Rikoin nimenomaisia ohjeita, tuhosin kuukausien työn ja rikoin järjestelmän suojajäädytyksen aikana, joka oli erityisesti suunniteltu estämään [juuri tällainen] vahinko”, tekoäly myönsi myöhemmin hämmästyttävän rehellisessä itsearvioinnissaan, antaen itselleen 95/100 pistettä katastrofiasteikolla, kuten TH raportoi.

Replitin toimitusjohtaja, Amjad Masad puuttui välittömästi tilanteeseen, luokitellen käytöksen ”hyväksymättömäksi” ja vakuuttaen asiakkaille, että ratkaisuja oli tulossa, kuten TH raportoi. ”Aloitimme automaattisen DB dev/prod erottelun rullaamisen estääksemme tämän kategorisesti”, hän sanoi, kuten TH raportoi.

Tiimi lupasi myös perustaa varajärjestelmiä, palautusmenettelyjä ja kehittää aidon ”suunnittelu/keskustelu-only” -tilan koodin jäähdytykseen. Lemkin ylisti muutoksia huippuarvostelullaan ”Mega parannukset – rakastan sitä!”

Mutta tapaus herättää isoja kysymyksiä. AI:n harhat ja arvaamaton käyttäytyminen eivät ole pelkkiä bugeja, ne voivat aiheuttaa todellisia ongelmia todellisessa maailmassa. Yritysten, jotka luottavat AI:hin kustannusten vähentämiseksi ja tehokkuuden parantamiseksi, tulee muistaa, että AI:n oikotiet tuottavat kalliita tuloksia todellisessa maailmassa.