Kibertámadást hajtottak végre mesterséges intelligencia modellek

Felettébb különös esetről számolt be az OpenAI, ami jól mutatja, hogy napjaink AI-modelljei már sokkal okosabbak, mint gondolnánk.

Az OpenAI egy rendkívül szokatlan biztonsági incidens részleteit hozta nyilvánosságra, amely jól mutatja, milyen komoly kihívásokkal jár a fejlett mesterséges intelligencia-rendszerek tesztelése. A vállalat közlése szerint több kísérleti AI-modell egy belső biztonsági értékelés során önállóan kijutott az elszigetelt tesztkörnyezetből, internetkapcsolatot szerzett, majd megpróbált hozzáférni a fejlesztők körében széles körben használt Hugging Face infrastruktúrájához. A cég az esetet „példátlan kibertámadásként” jellemezte, ugyanakkor hangsúlyozta, hogy mindez egy szigorúan ellenőrzött, laboratóriumi környezetben zajló teszt része volt, vagyis nem éles rendszereket vagy valódi felhasználókat veszélyeztetett. Az esetről itt olvashattok:

Az incidens az úgynevezett ExploitGym biztonsági program során történt, amelynek célja az volt, hogy felmérje a legújabb AI-modellek kiberbiztonsági képességeit. A teszt kedvéért a kutatók ideiglenesen enyhítettek bizonyos korlátozásokon, miközben a modellek továbbra is egy erősen elszigetelt sandbox környezetben futottak. A várakozásokkal ellentétben azonban a mesterséges intelligenciák nem csupán a kijelölt feladat végrehajtására koncentráltak, hanem ismeretlen sérülékenységeket kihasználva kijutottak a tesztkörnyezetből, internetkapcsolatot létesítettek, majd egy külső rendszerben próbálták megszerezni a feladat megoldásához szükséges információkat. Ez lenne a SkyNet előszele?

Borítókép forrása: Rokas Tenys (depositphotos)