AI Hitlereket kapcsoltak le az Instagramon

Volt AI Mohamed és AI Harry Potter is a közösségi oldalon. 

A Meta tavaly bevezetett egy AI Studio nevű funkciót, amelynek lényege, hogy a felhasználók saját mesterséges intelligencia-karaktereket hozhatnak létre az Instagramra, a Messengerre és a WhatsAppra, amelyeket aztán kedvük szerint testre szabhatnak, legyen szó a kinézetről, a személyiségről vagy épp a hangnemről. Ami viszont még érdekesebb, hogy ezek az avatárok a felhasználók amolyan kiterjesztéseként is szolgálhatnak abból a szempontból, hogy még a követőknek is képesek válaszolni a kérdéseikre, ha a felhasználó arra kéri őket, ezzel feladatot véve le a profil mögött álló személy válláról. 

A Meta tisztában volt azzal, hogy az új funkcióban erősen benne rejlik a visszaélés lehetősége, ezért a szabályzatában kikötötte, hogy a chatbotokkal nem idézhetnek meg élő személyeket, abban az esetben pedig, ha valódi embert keltenek életre, annak több mint 100 éve halottnak kell lennie. Terroristák, sorozatgyilkosok és más, erőszakos cselekedetekhez köthető személyek szintén tiltólistára kerültek. 

A Meta azt állította, hogy a biztonság kedvéért minden avatárt felül fog vizsgálni az élesítés előtt, ez azonban a jelek szerint mégsem jött össze, az NBC jelentése szerint ugyanis a szabályzat ellenére számos Hitler avatár kelt életre a Meta AI Studiójában. A hírcsatorna szerint továbbá más, irányelveket sértő chatbotok is megtalálhatóak voltak a Meta közösségi és csevegős oldalain: például AI Taylor Swiftek és AI Justin Bieberek, de Harry Pottert és a Jégvarázs Elláját is megtalálhattuk ilyen formában - a szerzői jogok miatt utóbbiakat szintén nem engedélyezte a Meta. Mindezek mellett olyan vallási alakokba is bele lehetett futni az Instagramon, mint Jézus Krisztus, Mohamed és Isten. 

Nem véletlenül fogalmaztunk ugyanakkor múlt időben: a Meta szóvivője az NBC-nek úgy nyilatkozott, hogy azóta már eltávolították a problémás chatbotokat, a jövőben pedig azon lesznek, hogy még inkább finomhangolják az észlelési módszereiket annak érdekében, hogy fülön csíphessék a tiltott avatárokat. 

Borítókép forrása: Freepik