Öngyilkos lett egy tinédzser, miután sokat csetelt egy ismert mesterséges intelligenciával

A kamasz a Character.AI nevű platform rendszeres használója volt. 

Pert indított egy édesanya a Google és a Character.AI nevű platform fejlesztői ellen, miután 14 éves gyermeke öngyilkosságot követett el azután, hogy hónapokon keresztül az említett csevegőprogrammal beszélgetett - számolt be a The Verge. A Character.AI egy platform, ahol olyan chatbotokat találni, amelyek ismert embereket, sztárokat, politikusokat vagy akár történelmi személyeket is képesek utánozni Albert Eintenteintől elkezdve Szókratészen át egészen Elon Muskig. A mesterséges intelligenciával működő felület olyan chatbotokat is kínál, amelyek a mentális egészségre összpontosítanak.

A vádirat szerint a 14 éves Sewell Setzer III még tavaly kezdte el használni a Character.AI-t, és többek közt olyan chatbotokkal kommunikált rajta, amelyeket a Trónok harca szereplőiről, például Daenerys Targaryenről mintáztak. A fiú a halála előtti hónapokban kifejezetten sokat használta az említett platformot, pár perccel közvetlenül azelőtt is az egyik chatbottal beszélgetett, hogy 2024 februárjában önkezűleg véget vetett az életének.

Megan Garcia, a pert elindító édesanya szerint a szóban forgó platform veszélyes, és nem rendelkezik azokkal a védelmi funkciókkal, amelyek szükségesek lennének egy olyan termék esetében, amit gyerekek is használhatnak. Néhány hónappal ezelőtt a The Verge arról írt, hogy az oldal felhasználói bázisának nagy részét fiatalok, köztük tinédzserek alkotják.

A Character.Ai-t Noam Shazeer és Daniel De Freitas hívta életre, mindketten a Google LaMDa nyelvi modelljének fejlesztői voltak korábban. A LaMDa neve azután került be a hírekbe, hogy a keresőóriás 2022-ben kirúgta az egyik mérnökét, miután az azt állította, hogy a LaMDa nevű mesterséges intelligencia érző pszichével rendelkezik. A Google augusztusban vásárolta meg a két mérnök által fejlesztett platformot. 

Ha Önnek is segítségre van szüksége, hívja a nap 24 órájában, ingyenesen hívható 116-123-as lelki elsősegély telefonszámot! Amennyiben másért aggódik, ezt az oldalt ajánljuk figyelmébe. 

Borítókép forrása: Leon Neal/Getty Images