Mesterséges intelligenciát használtak az ügyvédek, gyilkossági ügyben buktak le

Nem biztos, hogy minden esetben megéri kiszervezni a munkát az algoritmusoknak. 

Kétségkívül egyre népszerűbb a különféle nagy nyelvi modellek használata, ráadásul nemcsak a hétköznapi kommunikáció során, de a különféle munkákban is. Egy tavalyi tanulmány például arról számolt be, hogy a vizsgált 2022 decembere és 2023 februárja közötti időszakban publikált 45 ezer tanulmánynak mintegy 10 százalékát már a ChatGPT írta. Most nem egy tudományos publikáció kapcsán, de egy ugyancsak komoly területen merült fel a mesterséges intelligencia neve: egy gyilkossági ügyben. 

Két ausztrál ügyvéd, Rishi Nathwani és Amelia Beech egy 16 éves vádlott védelmében jártak el a bíróságon, és generatív AI-t használt a hivatalos dokumentumok elkészítéséhez. Nos, mint kiderült, nem kellett volna: az ügyészeknek benyújtott dokumentumaik bizarr hibák sorozatától hemzsegtek, beleértve kitalált, nem létező hivatkozásokat és egy rosszul idézett parlamenti beszédet. 

A The Guardian szerint a hibák miatt a vád és a védelem is hamis információkra alapozott, mígnem a Melbourne-i Legfelsőbb Bíróság bírója észre nem vette problémát, és mikor az ügyvédeket szembesítették, beismerték, hogy AI segítségével írták a szövegeket. Itt azonban még nincs vége a történetnek: az ügyvédek az ügy kibukása után új, „javított" dokumentumokkal álltak elő, csakhogy ezekben újabb mesterséges intelligencia által generált hibákra bukkantak, többek közt például nem létező jogszabályokra.  

A bíró szerint elfogadhatatlan, hogy az ügyvédek mesterséges intelligenciát használjanak a munkájukhoz olyan formában, hogy az AI által megadott információkat nem ellenőrzik vissza. A tét ráadásul hatalmas: Nathwania és Beech egy kiskorút védenek, akit azzal vádolnak, hogy meggyilkolt egy 41 éves nőt, miközben megpróbálta ellopni az autóját. Úgy tudni, hogy a tinédzsert végül felmentették a gyilkosság vádja alól, mivel a gyilkosság idején kognitív zavarban szenvedett. 

Borítókép forrása: Depositphotos