Leállíthatatlan szörnyeteget hoztunk létre? A tudósok szerint végveszélyben az emberiség

Már akár az évtized végére elhozhatja a világvégét a mesterséges intelligencia?

A mesterséges intelligencia rohamléptekkel való fejlődése olyan kritikus ponthoz érkezett, ahol már maguk a rendszereket építő kutatók fújták meg a vészharangot. Jacob Coxon, az Anthropic és az OpenAI korábbi kutatója nyilvánosan jelentette be lemondását, élesen bírálva a techóriásokat, amiért véleménye szerint az emberiség jövőjével és életével szerencsejátékot játszva hajszolják a teljesítményt. Aggodalmát a vállalaton belüli vezető biztonsági szakemberek – köztük Evan Hubinger és Samuel Marks – is megerősítették, elismerve, hogy jelenleg nem áll rendelkezésre hatékony terv a szuperintelligencia feletti kontroll megőrzésére, miközben az egzisztenciális katasztrófa esélyét több mint 10 százalékra teszik a közeli jövőben. A kutatók privát beszélgetéseiben egyre inkább az a meggyőződés dominál, hogy a kontrollálatlanul kibontakozó technológia akár az évtized végéig az emberi civilizáció teljes megsemmisüléséhez vezethet.

Bár az iparág meghatározó szereplői – az Anthropic mellett az OpenAI vezetői is – egyre nyíltabban szorgalmazzák a fejlesztések lassítását a megfelelő biztonsági fékek beépítése érdekében, a folyamatot szinte lehetetlen megállítani. A háttérben meghúzódó hatalmas pénzügyi ösztönzők és a technológiai lemaradástól való félelem mellett a globális geopolitikai helyzet jelent a legfőbb akadályt. Az amerikai vezetés határozott álláspontja szerint ugyanis a fejlesztések szüneteltetése azonnali stratégiai hátrányt jelentene Kínával szemben a mesterséges intelligenciáért folytatott fegyverkezési versenyben. Ez a patthelyzet arra kényszeríti a cégeket, hogy a nyilvánvaló és vállalt kockázatok ellenére is tovább feszítsák a határokat egy olyan technológiai versenyben, ahol a tét már a teljes emberiség fennmaradása.