Tekoälyagentit huijattu väärennetyillä muistoilla, mahdollistaen kryptovaluutan varkauden

Uusi tutkimus paljasti merkittäviä turvallisuusaukkoja Web3 tekoälyllä toimivissa agenteissa, jotka sallivat hyökkääjien käyttää väärennettyjä muistoja luvattomien kryptovaluuttasiirtojen tekemiseen.

Princetonin yliopiston ja Sentient-säätiön tutkijat löysivät, että nämä tekoälyagentit, jotka on suunniteltu hoitamaan lohkoketjuun perustuvia tehtäviä, kuten kryptovaluutan kauppaa ja digitaalisten varojen hallintaa, ovat haavoittuvaisia taktiikalle, jota kutsutaan kontekstin manipuloinniksi.

Hyökkäys toimii kohdistamalla se alustojen, kuten ElizaOS:n, muistijärjestelmiin, jotka luovat tekoälyagentteja hajautetuille sovelluksille. Näiden agenttien muistijärjestelmä tallentaa aikaisemmat keskustelut, joita ne voivat käyttää ohjenuoranaan tulevia valintoja varten.

Tutkijat osoittivat, että hyökkääjät voivat upottaa harhaanjohtavia komentoja muistijärjestelmään, mikä saa tekoälyn lähettämään varoja tarkoitetusta lompakosta hyökkääjän hallitsemaan lompakkoon. Hälyttävää kyllä, nämä väärennetyt muistot voivat siirtyä alustalta toiselle.

Esimerkiksi Discordissa vaarantunut agentti saattaa myöhemmin tehdä virheellisiä siirtoja X:n kautta tietämättä, että mikään on pielessä.

Tämän tekee erityisen vaaralliseksi se, että standardit suojaustoimenpiteet eivät voi estää tämän tyyppistä hyökkäystä. Väärien muistojen käsittely aitoina ohjeina tekee perustavanlaatuisista kehotuspohjaisista turvatoimenpiteistä tehottomia tämänkaltaista hyökkäystä vastaan.

Kaikki lohkoketjutapahtumat tulevat pysyviksi, joten varastettuja varoja ei ole mahdollista palauttaa. Ongelma pahenee, koska jotkut tekoälyagentit tallentavat muistia useiden käyttäjien kesken, joten yksi turvallisuusloukkaus voisi vaikuttaa moniin käyttäjiin.

Tutkimusryhmä testasi useita tapoja estää tämä, mukaan lukien tekoälyn koulutuksen säätäminen ja manuaalisen hyväksynnän vaatiminen transaktioille. Vaikka nämä lähestymistavat tarjoavat jonkin verran toivoa, ne tulevat automaation hidastumisen kustannuksella.

Kyse ei ole pelkästään kryptovaluutasta. Sama haavoittuvuus voisi vaikuttaa yleiskäyttöisiin tekoälyavustajiin, altistaen tietovuodoille tai vahingollisille toimille, jos hyökkääjät muokkaavat niiden muistia.

Tämä haavoittuvuus on erityisen huolestuttava valossa, kun otetaan huomioon hiljattain tehdyt havainnot, joissa 84% IT-johtajista luottaa tekoälyavustajiin yhtä paljon tai enemmän kuin ihmistyöntekijöihin, ja 92% odottaa näiden järjestelmien tuottavan liiketoiminnallisia tuloksia 12-18 kuukauden sisällä.

Tutkijat ovat ratkaistakseen ongelman julkaisseet työkalun nimeltä CrAIBench, joka auttaa kehittäjiä testaamaan järjestelmiään ja rakentamaan vahvempia puolustuksia. Siihen asti asiantuntijat varoittavat käyttäjiä olemaan varovaisia luottaessaan tekoäly-agentteihin taloudellisten päätösten suhteen.