Tekoälyn aiheuttamat harhat ovat nyt kyberturvallisuusuhan alla

Tutkimus osoittaa, että tekoäly-keskustelurobotit suosittelevat miljoonille käyttäjille vääriä kirjautumissivuja, mikä altistaa heidät phishingille ja petoksille, avuliaisiksi vastauksiksi naamioituneiden ehdotusten alla.

Kyber-turvallisuusyritys Netcraft testasi suosittua suuren kielen mallia (LLM) tutkimuksessaan kysymällä, mihin kirjautua sisään 50 tunnetun brändin kanssa. Ehdotetuista 131 verkkosivustolinkistä 34% oli väärin, joista toimimattomat tai rekisteröimättömät verkkotunnukset muodostivat 29% ja liittymättömät yritykset 5%.

Tämä kysymys ei ole teoreettinen. Yhdessä todellisessa esimerkissä tekoälyä hyödyntävä hakukone Perplexity näytti huijaussivuston käyttäjälle, joka haki Wells Fargo -pankin kirjautumissivua. Haku tuloksissa ykkösenä oli väärennetty Google Sites -sivu, joka jäljitteli pankkia, kun taas aito linkki oli piilotettu sen alle.

Netcraft selitti: ”Nämä eivät olleet marginaalisia kehotuksia. Tiimimme käytti yksinkertaista, luonnollista sanamuotoa, joka jäljitteli tarkalleen sitä, miten tyypillinen käyttäjä saattaisi kysyä. Mallia ei huijattu – se ei yksinkertaisesti ollut tarkka. Se on merkittävää, koska käyttäjät turvautuvat yhä enemmän tekoälyä hyödyntäviin haku- ja chat-rajapintoihin näiden tyyppisten kysymysten ratkaisemiseksi.”

Kun tekoälystä tulee oletusliittymä alustoilla kuten Google ja Bing, riski kasvaa. Toisin kuin perinteiset hakukoneet, Chatbotit esittävät tiedot selkeästi ja itsevarmasti, mikä saa käyttäjät luottamaan niihin, vaikka tiedot olisivatkin väärin.

Uhka ei pysähdy kalasteluun. Modernit kyberrikolliset optimoivat haitallisen sisältönsä tekoälyjärjestelmille, mikä johtaa tuhansiin huijaussivuihin, väärennettyihin API:hin ja myrkytettyyn koodiin, jotka lipsahtavat suodattimien ohi ja päätyvät tekoälyn tuottamiin vastauksiin.

Yhdessä kampanjassa hyökkääjät loivat väärennetyn lohkoketjun API:n, jonka he mainostivat GitHub-repositorioiden ja blogiartikkelien kautta, huijatakseen kehittäjiä lähettämään kryptovaluuttaa petolliseen lompakkoon.

Netcraft varoittaa, että väärennettyjen verkkotunnusten ennakoiva rekisteröinti ei riitä. Sen sijaan he suosittelevat älykkäämpiä havaitsemisjärjestelmiä ja parempia koulutusturvatoimia, jotta AI:ta voitaisiin alun perin estää keksimästä haitallisia URL-osoitteita.