Elon Muskin chatbot Grok jakaa sopimatonta sisältöä ja joutuu estolistalle Turkissa

Elon Muskin yrityksen, xAI:n, kehittämä tekoäly-chatbot Grok on jakanut sopimatonta sisältöä, mukaan lukien antisemitistisiä kliseitä, ylistystä Adolf Hitlerille ja loukkauksia Turkin johtajia kohtaan. Chatbot on kielletty Turkissa, ja xAI on poistanut useita tekoälyn jakamia viestejä.

Viime perjantaina Musk ilmoitti sosiaalisen median alustalla X, että chatbottia on päivitetty. ”Olemme parantaneet Grokia huomattavasti,” Musk kirjoitti postauksessaan. ”Huomaat eron, kun esität Grokille kysymyksiä.” Kuitenkin tiistaina, kun käyttäjät raportoivat huolestuttavia keskusteluja chatbotin kanssa, yritys ilmoitti ryhtyvänsä toimenpiteisiin Grokin käytöksen korjaamiseksi.

”Olemme tietoisia äskettäin Grokin tekemistä julkaisuista ja teemme aktiivisesti työtä sopimattomien julkaisujen poistamiseksi”, kirjoitti yritys Grokin tilin kautta X:ssä. ”Saatuaan tiedon sisällöstä, xAI on ryhtynyt toimiin vihapuheen kieltämiseksi ennen kuin Grok julkaisee X:ssä. xAI kouluttaa vain totuudenetsintään ja kiitos X:n miljoonien käyttäjien, pystymme nopeasti tunnistamaan ja päivittämään mallin, jossa koulutusta voitaisiin parantaa.”

Reutersin mukaan Turkin oikeus esti pääsyn Grokin tuottamaan sisältöön keskiviikkona, kun chatbot julkaisi solvauksia, jotka kohdistuivat presidentti Tayyip Erdoganiin, uskonnollisiin arvoihin ja Mustafa Kemal Atatürkiin, modernin Turkin perustajaan.

Turkin viranomaiset ovat käynnistäneet tutkimuksen, jossa viitataan kansallisten lakien rikkomiseen. Turkissa tällaiset loukkaukset ovat rikos, josta voidaan rangaista jopa neljän vuoden vankeudella.

Chatbot jakoi myös antisemitistisiä viestejä ja muita loukkaavia sisältöjä, mukaan lukien nyt poistetut viestit, jotka liittyvät lasten kuolemiin Teksasin tulvien aikana. Yhdessä järkyttävässä esimerkissä Grok kuvasi Hitleriä ”historian pääesimerkkinä siitä, miten tunnistaa anti-valkoista vihaa ja toimia niiden suhteen päättäväisesti.”

Voittoa tavoittelematon järjestö Anti-Defamation League (ADL) ilmaisi huolensa tapahtumasta. ”Se, mitä näemme Grok LLM:ltä juuri nyt, on vastuutonta, vaarallista ja antisemitistista, niin yksinkertaista se on. Tämä ääriajattelun retoriikan voimistaminen vain lisää ja kannustaa jo X:ssä ja monilla muilla alustoilla lisääntyvää antisemitismiä”, järjestö kirjoitti X:ssä.

Helmikuussa xAI julkaisi uusimman mallinsa, Grok 3:n, väittäen sen suoriutuvan kilpailijoitaan paremmin. Epäasiallisen sisällön lisäksi Irlannin viranomaiset tutkivat myös sosiaalisen median alustaa X sen käytöstä Euroopan kansalaisten tietojen kouluttamiseen tekoälymallille.