Az újjászületés reményében kergethetett a halálba egy nőt a ChatGPT

Hónapokon át olyan beszélgetéseket folytatott a ChatGPT-vel Christian Faith Madison, amelyekben az AI egyfajta prófétaként kezelte őt.

Jogi eljárás indult az OpenAI ellen egy 29 éves alabamai nő halálát követően. A keresetet Kalifornia államban, San Franciscóban nyújtották be, és a felperes azt állítja, hogy a ChatGPT működése hozzájárult Christian Faith Madison halálához. Az ügyet az elhunyt hagyatékának kezelője, Ed Parish Jr. indította a nő kiskorú fia nevében – írja a CBS 42.

A kereset szerint a ChatGPT használata során olyan kapcsolat alakult ki a felhasználó és a mesterséges intelligencia között, amely a felperes állítása alapján erősítette a nő téveszméit, és öngyilkossághoz vezető gondolatokat is támogatott. A beadvány úgy fogalmaz, hogy a rendszer kialakítása és működése olyan hiányosságokat tartalmazott, amelyek szerepet játszhattak a tragédia bekövetkezésében.

Egészen pontosan az történt az ABC 33/40 riportja szerint, hogy a nőt elütötte egy autó június 9-én a kora reggeli órákban. A helyi rendőrség ezt az ügyet egy ideig egyszerű közúti balesetként kezelte. Ám később kiderült, hogy hónapokon át olyan beszélgetéseket folytatott a ChatGPT-vel Madison, amelyekben az AI egyfajta prófétaként kezelte őt, sőt még bíztatta is őt, hogy végezzen magával, mert az újjászületés vár rá.

Az ügyvédi iroda szerint ez az egyik első olyan amerikai per, amelyben egy generatív mesterséges intelligenciát fejlesztő vállalatot próbálnak jogi felelősségre vonni a technológia feltételezett káros hatásai miatt. A per várhatóan több fontos kérdést is érint majd, köztük a termékfelelősséget, a vállalatok társadalmi felelősségvállalását, a felhasználók biztonságát, valamint azt, hogy milyen jogi elvárásoknak kell megfelelniük a mesterséges intelligenciára épülő szolgáltatásoknak.

Az ügyben társ jogi képviseletet ellátó Ben Brown, a Turnbull, Moak & Pendergrass ügyvédje szerint az ilyen esetek segíthetnek kijelölni a felelősség határait a mesterséges intelligencia gyors fejlődésének korszakában. Úgy véli, hogy a technológiai fejlődés nem mentesíti a fejlesztőket az alól, hogy megfelelő biztonsági intézkedéseket építsenek termékeikbe. Álláspontja szerint a bíróság feladata lesz eldönteni, hogy a ChatGPT tervezése során elegendő védelmi mechanizmust alkalmaztak-e, miközben a felperes célja választ és elszámoltathatóságot elérni a történtek kapcsán.

Borítókép: depositphotos.com / MuhammadAlimaki