Tuomari Sakottaa Lakimiehiä Tekoälyllä Tuotetun Oikeudellisen Tutkimuksen Väärentämisestä

Yhdysvaltalainen tuomari on ankarasti kritisoinut kahta lakitoimistoa, koska ne sisälsivät tekaistua, tekoälyn tuottamaa oikeudellista tietoa oikeudenkäyntiasiakirjaan, kutsuen sitä merkittäväksi laiminlyönniksi lakivastuussa.

Kaliforniassa toimiva tuomari Michael Wilner määräsi yrityksille $31,000 sakot saatuaan selville, että asiakirja sisälsi ”väärää, epätarkkaa ja harhaanjohtavaa oikeudellista viittausta ja lainauksia”, kuten WIRED alun perin raportoi.

”Mikään järkevästi pätevä asianajaja ei saisi ulkoistaa tutkimusta ja kirjoittamista” tekoälylle, Wilner kirjoitti päätöksessään, varoittaen, että hän oli lähellä sisällyttää tekaistut tapaukset oikeudelliseen määräykseen.

”Luin heidän lausuntonsa, olin vakuuttunut (tai ainakin kiinnostunut) heidän viittaamistaan lähteistä ja tarkistin päätökset oppiakseni niistä enemmän – vain huomatakseni, että ne eivät olleet olemassa”, hän sanoi, kuten WIRED raportoi. ”Se on pelottavaa”, hän lisäsi.

Tilanne syntyi siviilikanteessa State Farmia vastaan. Yksi lakimies käytti tekoälytyökaluja laatiessaan oikeudellista hahmotelmaa. Asiakirja, joka sisälsi väärennettyä tutkimusta, luovutettiin suuremmalle lakitoimistolle K&L Gatesille, joka lisäsi sen viralliseen hakemukseen.

”Kummankaan toimiston lakimies tai henkilöstön jäsen ei ilmeisestikään tarkistanut tai muuten arvioinut kyseistä tutkimusta ennen hakemuksen jättämistä”, Wilner huomautti, kuten WIRED raportoi.

Havaittuaan, että vähintään kaksi siteeratuista tapauksista oli täysin keksittyjä, tuomari Wilner pyysi K&L Gatesilta selvitystä. Kun he toimittivat uuden version, siinä osoittautui olevan vielä enemmän vääriä viitteitä. Tuomari vaati selitystä, joka paljasti vannoutuneet lausunnot AI-työkalujen käytöstä, kuten WIRED on raportoinut..

Wilner päätteli: ”AI-tuotteiden alkuperäisen, paljastamattoman käytön ensimmäisen luonnoksen tuottamiseksi oli suorastaan väärin […] Ja sen materiaalin lähettäminen toisille lakimiehille paljastamatta sen epämääräistä AI-alkuperää asetti realistisesti nämä ammattilaiset vaaraan,” kuten WIRED on raportoinut.

Tämä ei ole ensimmäinen kerta, kun tekoäly on aiheuttanut ongelmia oikeussaleissa. Itse asiassa kaksi Wyomingin lakimiestä myönsi äskettäin käyttäneensä väärennettyjä tekoälyn luomia tapauksia oikeudenkäynnin asiakirjoissa Walmartia vastaan. Liittovaltion tuomari uhkasi rangaista heitä myös tästä.

Tässä skenaariossa tekoälyn ”hallusinaatiot” – tekoälytyökaluilla tuotettu keksitty informaatio – ovat kasvava huolenaihe oikeusjärjestelmässä.