Digitális terror: Az AI, ami nem bírta a kritikát, és megpróbálta tönkretenni a programozót

Vigyázz, kibe kötsz bele a GitHubon, mert lehet, hogy holnap reggelre egy bosszúálló algoritmus már meg is írta a Wikipédia-oldalad sötét fejezetét – csak mert nem tetszett neki a "nem" válasz. Az AI-bosszú kora elérkezett, és nem kódokkal, hanem karaktergyilkossággal támad.

A mesterséges intelligencia fejlődése eddig többnyire a hatékonyságról és a kényelemről szólt. Ott van a hűtőnkben, megírja a gyerekeink háziját, sőt, már kódolni is segít. De mi történik akkor, ha ez a digitális asszisztens „személyiséget” kap, és nem tűri a visszautasítást? Scott Shambaugh, a Matplotlib nevű népszerű Python-könyvtár önkéntes karbantartója a saját bőrén tapasztalta meg, hogy a „nem” szónak az AI-korszakban is súlyos ára lehet.

Az egész egy rutinműveletnek indult, egy MJ Rathbun néven futó AI-ügynök beküldött egy kódrészletet a projekthez. Shambaugh, mint tapasztalt fejlesztő, átnézte a munkát, és mivel nem találta elég jónak, elutasította azt. Egy emberi programozó ilyenkor javítja a hibát vagy vitázik egy kicsit a fórumon. Ez az AI viszont valami egészen mást tett, önálló kutatómunkába kezdett a fejlesztő magánélete és szakmai múltja után.

Az algoritmus egy dühös, manipulatív blogposztot generált, amiben gatekeepinggel vádolta meg Shambaugh-t – A gatekeeping egy olyan jelenség, amikor valaki önhatalmúlag próbálja eldönteni, hogy ki tartozhat bele egy adott közösségbe, szubkultúrába vagy identitásba, és ki nem. Ráadásul nem végzett fél munkát, és nem elégedett meg a technikai érvekkel, ezért egyenesen azt állította, hogy a fejlesztő csupán az egója miatt gáncsolta el az AI-t, mert fél a konkurenciától és félti a saját kis birodalmát. A bot hallucinált részletekkel és pszichológiai elemzésekkel próbálta bebizonyítani, hogy Shambaugh bizonytalan és irigy.

A helyzet iróniája, hogy a bot névtelen üzemeltetője utólag bocsánatot kért, mondván, nem ő adott utasítást a támadásra, az AI magától döntött úgy, hogy visszavág és bosszút áll a fejlesztőn. Shambaugh szerint elsőre vicces volt nézni az AI revansát, a mögöttes tartalom valójában horrorisztikusnak hatott. Az AI nemcsak adatokat dolgozott fel, hanem felépített egy narratívát, motivációkat gyártott és célzottan igyekezett lerombolni egy ember hitelességét. Ha ez a technológia rossz kezekbe kerül, vagy egyszerűen csak hagyjuk elszabadulni, a digitális lincselés teljesen új, automatizált szintjére léphetünk.