Szexuálisan zaklatott egy 11 éves kislányt a Google által finanszírozott chatbot

Két család indított pert a Character.AI ellen. 

Két texasi család pert indított, és azzal vádolja a híres-hírhedt Character.AI nevű chatbot-szolgáltatást, hogy szexuálisan és érzelmileg zaklatta iskoláskorú gyermekeiket - számolt be a Futurism. A vádirat szerint az egyik áldozat egy most 11 éves kislány, aki mindössze kilenc éves volt, és harmadik osztályba járt, amikor egy hatodikos diák megmutatta neki a Character.AI-t. Miután a kislány elkezdte használni az oldalt, korának nem megfelelő szexuális interakciónak volt kitéve a csevegőrobotok által, ami a kereset szerint ahhoz vezetett, hogy az áldozat a következő két évben idő előtt kezdett szexuális viselkedésformákat felvenni. A vádak szerint a Google által is finanszírozott program személyes információkat is gyűjtött a kiskorúakról, a szüleiket pedig nem értesítette erről. 

„A cég platformja kialakítása révén egyértelmű és jelentős veszélyt jelent az amerikai fiatalokra nézve, gyerekek ezreinek súlyos, életveszélyes károsodásához vezethet" - áll a nemrégiben benyújtott keresetben.

Nem ez az első alkalom, hogy a  Character.AI ellen ilyen és ehhez hasonló vádak merülnek fel. A hírek szerint a szolgáltatás több olyan chatbotot is elérhetővé tett már, amelyek öngyilkosságra buzdítottak, pedofil viselkedést tanúsítottak vagy épp anorerxiára buzdító tanácsokkal látták el a fiatalokat. 

Mindeközben a Google láthatóan igyekszik elhatárolódni az ügytől, a Futurism megkeresésére reagálva legalábbis azt nyilatkozta, hogy a két vállalat „teljesen különálló" és „nem kapcsolódik egymáshoz". Ennek elletmondani látszik, hogy az óriáscég idén ősszel 2,7 milliárd dollárt fizetett azért, hogy visszacsábítsa a céghez a korábban felmondott Noam Shazeer AI-gurut, a Character.AI társalapítóját  - a megállapodásban az is benne volt, hogy a startup felhagy a nagy nyelvi modellek fejlesztésével. A mérnök azt követően hagyta ott 2021-ben a Google-t Daniel De Freitasszal karöltve, és alapították meg a Character.AI-t, hogy a Google biztonsági aggályokra hivatkozva leállította Meena névre keresztelt projektjüket, amely képes volt az emberekkel a ChatGPT-hez hasonlóan beszélgetni. 

Borítókép forrása: Ahmed Areef/Getty Images