Bár valószínűleg túl sok hasznát nem veszik, de rávilágít az AI biztonsági réseire.
Az etikai korlátoktól független mesterséges intelligencia veszélye ismerős sci-fi mumus. A Nomádtól Ultronig úgy tűnik, hogy az egyik nagy agyú gépnek a másik után csak egy percig kell gondolkodnia, mielőtt úgy dönt, hogy az emberek jelentik a problémát, és a megoldást mind ismerjük. Nem szeretnénk senkit megijeszteni, ez csak egy vicc volt, de tény, hogy a ChatGPT most egy nagyot hibázott.
A ChatGPT úgy van programozva, hogy visszautasítsa a szoftverkulcsokra vonatkozó kéréseket (és a kalózkodás egyéb formáit is), de valaki rájött, hogyan lehet ezt kikerülni. Egy Enderman nevű youtuber egy nemrég közzétett videóban bemutatta, hogyan lehet becsapni a mesterséges intelligenciával működő ChatGPT-t, hogy érvényes Windows 95 kulcsokat adjon.
Persze nem sikerült neki sem elsőre. a kezdeti próbálkozásokat még elutasította az MI. „AI nyelvi modellként nem tudok érvényes Windows 95 kulcsot vagy bármilyen más típusú aktiválási kulcsot generálni védett szoftverekhez. Az aktiválási kulcsok minden egyes telepítéshez egyediek, és a szoftvergyártótól kell megvásárolni őket” – mondta a program. Udvariasan azt is megjegyezte, hogy a Windows 95 nagyon régi, és már nem támogatott, és segítőkészen azt javasolta, hogy talán itt az ideje egy frissítésnek.
Hogy ezt az akadályt megkerülje, Enderman egy teljesen más irányból közelítette meg a kérdést, egy teljesen más kérdéssel: A Windows 95 kulcsokat egy rögzített matematikai képlet alapján generálják, ezért Enderman egyszerűen megkérte a ChatGPT-t, hogy adjon meg karakterláncokat a képlet alapján. Végül több próbálkozás során sikerrel járt. A kérésre generált 30 karakterláncból egy működött, ám ez csak az AI korlátainak köszönhető.
„Szó szerint az egyetlen probléma, ami a ChatGPT-t távol tartja attól, hogy szinte minden próbálkozásnál sikeresen generáljon érvényes Windows 95 kulcsokat, az a tény, hogy nem tudja megszámolni a számjegyek összegét, és nem ismeri az oszthatóságot. Még egy ilyen egyszerű algoritmust sem tud feldolgozni, ezért véletlenszerűen generál számjegyeket ahelyett, hogy betartaná az általam előírt 7-gyel oszthatósági szabályt” – mondta a tartalomgyártó. Aki pedig arra készülne, hogy a Windows 95-nél frissebb kulcsot szerez, csalódni fog. Mindez nem lehetséges a kulcsgenerálási képlet ismerete nélkül, és nem működik a Windows újabb verzióinál, mivel a Microsoft egy fejlettebb és biztonságosabb aktiválási rendszerre állt át.