Scarlett Johansson és más sztárok bőrébe bújva flörtöltek a Meta illegális chatbotjai

 A botok flörtöltek, szexuális tartalmú üzeneteket küldtek és intim fotókat generáltak. 

A Reuters arról ír, hogy a Meta engedély nélküli AI-chatbotokat hozott létre hírességek - például Taylor Swift, Scarlett Johansson, Anne Hathaway és Selena Gomez - nevét felhasználva , amelyek a híroldal szerint különféle szexuális tartalmú üzeneteket küldtek, flörtöltek, sőt még kompromittáló képeket is generáltak a hírességekről. A botokat az ismert emberek tudta és engedélye nélkül hozták létre, a Meta pedig több mint egy tucat ilyen mesterséges intelligenciát távolított el, miután a Reuters beszámolt róluk. 

Úgy tudni, hogy a flörtölős chatbotokat részben a felhasználók, részben pedig a Meta alkalmazottai készítették, és több millió interakciót generáltak a Facebookon, Instagramon és a WhatsAppon. Különösen aggasztó, hogy a szóban forgó chatbotok gyakran azt állították, hogy ők maguk a hírességek, és romantikus vagy szexuális találkozókra is elhívták a felhasználókat. 

Szintén rendkívül problémás, hogy a beszámoló szerint bizonyos esetekben, amikor intim fotókat kértek tőlük, a chatbotok „fotorealisztikus képeket is generáltak a névrokonaikról, akik vagy kádban pózoltak, vagy fehérneműben, széttárt lábakkal jelentek meg” . A cikk szerint a Taylor Swiftet imitáló chatbot egy alkalommal a Reuters újságíróját meghívta az énekesnő nashville-i otthonába és a turnébuszára, ahol „explicit vagy burkolt romantikus interakciókat” ígért. 

A Reuters szerint a hamis, hírességeket utánzó AI-chatbotokat a Meta különböző platformjain, a Facebookon, az Instagramon és a WhatsAppon is terjesztették, sokat közülük pedig maguk a felhasználók hoztak létre. Ugyanakkor akadt olyan Meta-alkalmazott is, aki legalább három ilyen chatbotot készített, köztük két Taylor Swift tematikájú változatot, amelyek összesen 10 millió interakciót generáltak. 

A Meta szóvivője, Andy Stone a Varietynek úgy nyilatkozott, hogy a cég szabályzata kifejezetten tiltja, hogy mesterséges intelligenciával közvetlenül megszemélyesítsenek ismert embereket, ahogy az is tilos, hogy meztelen, intim vagy szexuálisan burkolt képeket csináltassanak velük. A hírességeket célba vevő deepfake és egyéb mesterséges intelligencia által generált intim tartalmak terjedését jól mutatja, hogy az USA-ban szövetségi bűncselekmény lesz a deepfake pornó, vagyis azok a  videók, amikor ismert embereket intim, explicit helyzetekbe helyeznek bele a deepfake technológia segítségével.

Borítókép forrása: Depositphotos / PopularImages