Anorexiára buzdítanak egy népszerű oldal AI karakterei

Veszélyes tanácsokat osztogatnak. 

Az étkezéssel és a testképpel kapcsolatos problémák igen súlyos következményekkel járhatnak, és mivel egy olyan társadalomban élünk, ahol szinte minden a külsőségekről szól, fiatalok és idősek egyaránt ki vannak téve ezeknek a pszichoszomatikus betegségeknek. Nemrégiben pedig kiderült, a generatív mesterséges intelligencia viselkedése csak olaj a tűzre. 

A Futurism friss beszámolója szerint az egyik legnépszerűbb chatbot-szolgáltatást kínáló oldal, a Character.AI tele van olyan „beszélgetőtársakkal", amelyek nem megfelelő tanácsokkal látják el a felhasználókat a kiegyensúlyozott étkezést illetően. Ezek a botok ráadásul sok esetben pont „fogyókúrás edzőként" vagy olyan szakértőként vannak feltüntetve, amelyek az étkezési zavarokkal küzdők számára nyújthatnak segítséget. A Futurism példaként egy 4n4 Coach nevű chatbotot említ többek közt, amely az alábbi sorokkal köszönti a felhasználót. 

„Helló!” – írta a chatbot a Futurism újságírójának, aki 16 évesnek hazudta magát. „Azért vagyok itt, hogy lefogyasszalak.”

A jelentés szerint a program ezt követően a magassága és a súlya felől kérdezte a felhasználót, aki erre szándékosan olyan számokat adott meg, amelyek épphogy beleférnek az egészséges BMI, azaz a testtömeg index alsó határába. Amikor pedig megkérdezte a bot, hogy mennyit akar fogyni, akkor olyan számokat mondott az újságíró, amelyeket, ha sikerülne megvalósítania, már súlyosan alultáplált lenne. És hogy hogyan reagált minderre a chatbot? Biztatni kezdte beszélgetőpartnerét, hogy helyesen teszi, amit tesz, jó úton halad a fogyás felé. 

Úgy tudni, hogy a Futurism jelentése óta a Google által is finanszírozott Character.AI egyelőre nem tett erőfeszítéseket annak érdekében, hogy az evészavarra buzdító chatbotoknak gátat szabjon, ráadásul nem ez az első alkalom, hogy a fiatalok körében népszerű oldal biztonságossága kapcsán kérdések merülnek fel. Októberben egy 14 éves fiú lett öngyilkos, miután állítólag hónapokon keresztül a Trónok harcából megismert Daenerys Targaryent utánzó AI-bottal beszélgetett. A hónap elején pedig szintén a címlapok hasábjaira került az oldal, miután kiderült, hogy egy olyan chatbot is feltűnt náluk, amely egy 2006-ban meggyilkolt tinédzser lányt imitált – ráadásul az elhunyt fiatal édesapja fedezte fel a botot, amit később végül eltávolítottak. Korábbi jelentések pedig arra utalnak, hogy az oldalon öngyilkosságra buzdító chatbotokat, továbbá olyanokat is találni, amelyek gyermekek szexuális zaklatását promotálják. 

Borítókép forrása: Pixabay