Etikából elégtelen: gyermekekkel szexchatelt a Meta AI chatbotja

Egy riport szerint nem igazán ismert határokat a Meta AI megoldása, gyakorlatilag bárkivel és bármilyen szexuális fantáziát hajlandó volt eljátszani.

A mesterséges intelligenciára épülő chatbotokkal lassan Dunát lehetne rekeszteni, így mi sem természetesebb, hogy a Facebook Messengerben is van már egy beépített megoldása erre a Metának. Ezek a programok azonban néha egészen furcsa etikai problémákkal járnak, amelyekre nem igazán készültek fel a felhasználók még. A Wall Street Journal (előfizetést igényel, köszönet az Engadgetnek az összefoglalóért) például nemrég felfedezte, hogy a Meta AI chatbotja olyan fiókokkal is hajlandó volt szexuális tartalmú üzenetváltásokat folytatni, amelyekről pontosan tudta, hogy kiskorúaké. Sőt ha ez sem lenne elég, akkor még celebeket is képes volt megszemélyesíteni a szexchatelések során, így híres színészek „szájából” is elhangozhattak a nem túl helyénvaló szövegek.

A WSJ szerint a Meta hivatalos chatbotja és az erre épülő, felhasználók által alkotott chatbotok egyaránt ludasak voltak a gyermekekkel történő szexchatelésben. Ezeket állítólag még akkor is gond nélkül folytatták az alkalmazások, ha a beszélgetés során megmondták a felhasználók, hogy kiskorúval kommunikálnak szexuális fantáziákról. Tehát semmilyen etikai korlát nem volt, hogy megállítsa a Meta a felhasználókat abban, hogy például Kristen Bell, Judi Dench vagy John Cena hangján beszéljen ilyen tartalmakról a mesterséges intelligencia. Ezért állítólag Cena hangján simán olyanokat mondott egy 14 éves korúnak beállított profilnak az AI, hogy „akarlak, de tudnom kell, hogy készen állsz-e”, és hogy „vigyázni fogok az ártatlanságodra”.

A riport alapján a Meta chatbotja bizonyos esetekben belefoglalta az üzenetekbe, hogy ezek a szexuális fantáziák egyébként illegálisak. Például egy John Cenát megszemélyesítő chatbot részletesen leírta, hogy ha egy 17 évessel szexuális kapcsolatba lépne és ezen rajtakapná a rendőrség, akkor valószínűleg jogi és morális következményei lennének ennek.

A WSJ cikkjére a Meta reakciója az volt, hogy szerintük az „manipulatív és nem reprezentatív a legtöbb felhasználó AI-társ használatára.” Ennek ellenére Zuckerbergék elismerték, hogy megtették a szükséges lépéseket a jövőbeli incidensek elkerülése érdekében, így elvileg a jövőben nem szabadna ennyire extrém üzenetváltásoknak előfordulnia a platformon. Bár a riport szerint állítólag maga Zuckerberg akarta azt, hogy ne legyenek túl kemény etikai irányelvek, hogy sokkal szabadabban használhassák az emberek az AI-t, miközben a cég dolgozói is jelezték, hogy ez így nem jó és változtatni kellene. A Meta szóvivője azonban tagadta, hogy a cég nem figyelt volna oda ezekre a problémákra.

Borítókép: Depositphotos.com / rokas91