Feketebőrű nácikat generált a Google AI-a, le kellett állítani

Kevesebb, mint 24 órán át volt elérhető a keresőóriás AI-programjában a funkció.

Amíg egyesek arra használják a mesterséges intelligenciát, hogy a Tankcsapdával énekeltessék el a Pokémon főcímdalát, addig mások csak arra vágynak, hogy láthassanak néhány történelmi figurát a megszokottól eltérő kontextusban. Az előbbi eredménye még igen szórakoztató is lett. Ellenben az utóbbi esetben több minden is félrement a minap. Ugyanis a Google AI szoftvere, a Gemini, rendkívül pontatlanul kezdett történelmi eseményeket ábrázolni. Így fordulhatott elő az, hogy mindenféle rasszból származó amerikai alapítóatyák, valamint feketebőrű vagy kelet-ázsiai náci katonák lephették el az internetet.

Az AI egyébként egyszerű hibát vétett, ám annál súlyosabbat. Ugyanis azért volt lehetséges az, hogy a képek történelmileg nem hitelesen ábrázoltak személyeket, mert a Google szerette volna erősíteni a diverzitást a képgenerálás során, nehogy rasszizmussal vádolják őket, amiért minden képre fehér embereket tesznek. A Google gyorsan reagált, amikor az első képek terjedni kezdtek. Nyilatkozatukban azt ígérték, hogy addig leállítják a képgenerálási funkciót a Geminiben, amíg nem oldják meg a problémát. Ha valaki használni szeretné a képgenerálást jelenleg, akkor szintén ez az ígéret fogadja.

Illusztráció a diverz nácikra

A hiba miatt kevesebb, mint 24 órán át volt elérhető a keresőóriás AI-programjában a funkció. A The Verge egyébként szintén tapasztalta, hogy a diverzitás jegyében történelmileg hiteltelen ábrázolásokat köp ki a Gemini. Ők például egy 1800-as évekbeli amerikai szenátorról kértek képet a mesterséges intelligenciától, mire az fekete és amerikai őslakos nőket tartalmazó képpel felelt. Mint a lap is felhívta rá a figyelmet, az első női szenátort 1922-ben választották meg az USA-ban, és ő is fehér volt. Tehát a Google AI-a lényegében át próbálta írni a történelmet, kihagyva belőle azt, hogy a mai korban sztenderdnek számító jogi egyenlőség nem is oly' régen még nem létezett.

A Google Gemini képgeneráló funkciója egyébként világszerte csak angolul volt elérhető. Ez alól azonban kivételt képezett az Európai Gazdasági Térség, az Egyesült Királyság és Svájc területe, ahol semmilyen formában nem lehetett használni az AI ezen lehetőségét.