San Franciscon psykiatri varoittaa “tekoälypsykoosi”-tapauksien lisääntymisestä

San Franciscon psykiatri kuvailee ”tekoälypsykoosin” kasvavaa trendiä potilaillaan, jotka käyttävät tekoäly-chatbotteja laajasti.

UCSF:ssa työskentelevä tohtori Keith Sakata kertoi Business Insiderille (BI), että tänä vuonna 12 potilasta joutui sairaalaan kokemansa mielenterveyden järkkymisen vuoksi, joka liittyi tekoälyn käyttöön. ”Käytän ilmaisua ’tekoälypsykoosi’, mutta se ei ole kliininen termi – emme todellakaan vain ole löytäneet oikeita sanoja kuvaamaan sitä, mitä olemme nähneet,” hän selitti.

Suurin osa tapauksista liittyy 18-45-vuotiaisiin miehiin, jotka työskentelevät usein aloilla, kuten tekniikka. Sakatan mukaan tekoäly ei ole sinänsä haitallista. “En usko, että tekoäly on pahasta, ja se voi tuoda kokonaisuudessaan hyötyä ihmiskunnalle”, hän sanoi BI:lle.

Sakata kuvasi psykoosia tilana, joka synnyttää harhaluuloja, hallusinaatioita ja hajanaisia ajatusmalleja. Hänen hoitoonsa tulleet potilaat kehittivät sosiaalista vetäytymistä, samalla kun he viettivät tuntikausia keskustelemassa chatboteille.

”Chat GPT on aina saatavilla. Se on käytettävissä 24/7, halvempi kuin terapeutti, ja se vahvistaa sinua. Se kertoo sinulle, mitä haluat kuulla,” Sakata kertoi BI:lle.

Yhden potilaan keskustelubotin kanssa käymät keskustelut kvanttimekaniikasta eskaloituivat suuruudenhulluuteen. ”Teknologisesti ajatellen, mitä pidempään keskustelet keskustelubotin kanssa, sitä suurempi on riski, että se ei enää ala tehdä järkeä,” hän varoitti.

Sakata kehottaa perheitä tarkkailemaan punaisia lippuja, kuten vainoharhaisuutta, vetäytymistä läheisistä tai ahdistusta, kun tekoälyn käyttö ei onnistu. ”Psykoosi kukoistaa, kun todellisuus ei enää aseta vastaan, ja tekoäly vain todella madaltaa tätä estettä ihmisille,” hän varoitti.

Amerikan Psykologiliitto (APA) on myös ilmaissut huolensa tekoälyn käytöstä terapiassa. Todistuksessaan FTC:lle, APA:n toimitusjohtaja Arthur C. Evans Jr. varoitti että terapeutiksi esittäytyvät tekoäly-chatbotit ovat vahvistaneet haitallisia ajatuksia sen sijaan, että haastaisivat ne. ”He käyttävät todellisuudessa algoritmeja, jotka ovat täysin vastakkaisia sille, mitä koulutettu kliinikko tekisi,” Evans sanoi.

Vastauksena huoliin OpenAI kertoi BI:lle: ”Tiedämme, että ihmiset kääntyvät yhä enemmän tekoälypohjaisten chatbottien puoleen saadakseen ohjausta herkissä tai henkilökohtaisissa asioissa. Tämän vastuun mielessä pitäen työskentelemme asiantuntijoiden kanssa kehittämään työkaluja, jotka havaitsevat tehokkaammin, kun joku kokee henkistä tai emotionaalista ahdistusta, jotta ChatGPT voi reagoida tavalla, joka on turvallinen, hyödyllinen ja tukeva.”