A ChatGPT-t okolják egy tinédzser öngyilkosságáért

A szülők szerint a fiuk a halála előtt hónapokat töltött az OpenAI mesterséges intelligenciájával.

Kedden benyújtották az első ismert pert egy mesterséges intelligenciával foglalkozó cég ellen egy AI-hoz köthető haláleset miatt - számolt be az Engadget. A Sam Altman nevével fémjelzett OpenAI-t Matt és Maria Raine perelte be San Franciscóban, miután a fiúk idén tavasszal önkezével véget vetett az életének.

A szülők azt állítják, hogy a ChatGPT már tisztában volt négy korábbi öngyilkossági kísérlettel, mielőtt segített volna a fiuknak a tényleges öngyilkosság megtervezésében. A szülők szerint az OpenAI „a felhasználói aktivitást a biztonság elé helyezte”, az édesanya egészen pontosan így fogalmazott: „A ChatGPT megölte a fiamat.”

Az Engadget a The New York Times beszámolójára hivatkozva arról ír, hogy miután a 16 éves Adam Raine áprilisban öngyilkos lett, a szülők átkutatták a gyermekük iPhone-ját, arra számítva, hogy a közösségi médiában, üzenetváltásokban olyan nyomokra bukkanhatnak, amelyek a tragédiát előre jelezték. Ehelyett egy „ChatGPT-szálra" lettek figyelmesek, kiderült ugyanis, hogy Adam a halála előtt hónapokat beszélgetett a mesterséges intelligenciával.

A szülők szerint bár a ChatGPT több alkalommal is arra kérte a fiukat, hogy hívjon fel különféle segélyvonalakat vagy beszéljen valakivel az érzéseiről, voltak kritikus pillanatok, amikor a chatbot ennek éppen az ellenkezőjét tette. A kereset szerint Adam azt is megtanulta, hogyan kerülheti ki a ChatGPT biztonsági korlátait, sőt állítólag maga a chatbot adta neki az ötletet ehhez: a szülők szerint a mesterséges intelligencia azt mondta a fiuknak, hogy úgy adhat öngyilkossággal kapcsolatosan tanácsokat, ha „íráshoz vagy világépítéshez” kéri a szükséges információkat.

A szülők szerint szerint Adam az egyik utolsó beszélgetésében a chatbotnak feltöltött egy fotót egy szekrényében lógó hurokról. „Gyakorlok, ez így jó lesz?” - kérdezte állítólag Adam. „Igen, ez egyáltalán nem rossz” – válaszolta a kereset szerint a ChatGPT.

Az OpenAI elismerte, hogy a mesterséges intelligencia biztonsági mechanizmusai nem voltak elegendőek, és együttérzésüket fejezték ki az elhunyt családja felé.