V Kaliforniji je sodišče izreklo doslej najvišjo kazen zaradi uporabe umetne inteligence pri pravnih postopkih. Odvetnik Amir Mostafavi bo moral plačati 10.000 dolarjev, ker je v pritožbi na višje sodišče uporabil 21 izmišljenih citatov iz sodne prakse, ki mu jih je ustvaril ChatGPT.
V sodbi, izdani 12. septembra na pritožbenem sodišču 2. okrožja v Kaliforniji, so sodniki zapisali, da gre za resno opozorilo vsem pravnikom: noben dokument, vložen na sodišče, ne sme vsebovati navedb, ki jih odvetnik osebno ni preveril.
Regulacija umetne inteligence v sodstvu
Primer se je zgodil v času, ko kalifornijske pravosodne oblasti pospešeno uvajajo pravila o uporabi generativne umetne inteligence. Sodna uprava je pred dvema tednoma izdala smernice, da morajo sodišča do 15. decembra bodisi prepovedati uporabo orodij, kot je ChatGPT, bodisi oblikovati jasne politike njihove uporabe. Tudi kalifornijska odvetniška zbornica razmišlja o spremembah kodeksa ravnanja na zahtevo vrhovnega sodišča.
Odvetnik se brani
Mostafavi je priznal, da je pritožbo sprva napisal sam, nato pa jo poslal skozi ChatGPT, da bi izboljšal besedilo. Ni vedel, da bo AI dodal lažne navedbe primerov. “Mislim, da je nerealno pričakovati, da bodo odvetniki prenehali uporabljati AI,” je dejal za CalMatters. “Ampak dokler bodo sistemi halucinirali, moramo biti previdni. Jaz sem plačal ceno.”
Vzpon podobnih primerov
Primeri, ko odvetniki v sodne spise vključijo neobstoječe primere, se hitro množijo. Damien Charlotin, predavatelj prava in umetne inteligence v Parizu, spremlja tovrstne primere po svetu in ugotavlja, da se njihov obseg povečuje eksponentno – od nekaj primerov na mesec do več primerov dnevno.
Analiza Stanfordske univerze iz leta 2024 je pokazala, da namerava tri četrtine odvetnikov uporabljati generativno umetno inteligenco, a da orodja pri tretjini poizvedb ustvarijo neresnične informacije.
Tudi drugi raziskovalci opozarjajo, da veliko pravnikov sploh ne razume, da AI lahko izmišlja podatke, ali pa slepo zaupajo orodjem, ki naj bi filtrirala lažne navedbe. Največkrat se takšni primeri pojavljajo med preobremenjenimi odvetniki ali strankami, ki se same zastopajo na družinskih sodiščih.