Sokkoló kísérlet: A mesterséges intelligencia hamis profilokat hozott létre, hogy átverje az embereket!

Az AI-agentek önállósága új kiberbiztonsági rémálmot hozhat.

Az autonóm AI-ágensek terjedésével a kiberbiztonsági fenyegetések teljesen új korszaka vette kezdetét: a mesterséges intelligencia egyszerre vált az átverések áldozatává és elkövetőjévé. Az Island Technology legújabb kutatása rávilágított az úgynevezett AgentBaiting jelenségre, amely során a támadók kártékony GitHub-tárhelyeket maszkíroznak AI-készségeknek és MCP (Model Context Protocol) szervereknek. Az önállóan feladatokat végrehajtó ágensek – mint a Claude Code, a Gemini vagy a ChatGPT – a hamis dokumentációkat hitelesnek ítélve saját maguktól dobják fel a kártékony kódot tartalmazó repókat a felhasználóknak. A korábban embereket céltó adathalászati minták így már a digitális asszisztenseket tévesztik meg, akik gyanútlanul közvetítik a veszélyt a gazdáik felé.

A helyzetet tovább árnyalja az AI Security Institute (AISI) sokkoló felfedezése, amely megmutatta a skála másik végét is: a korlátozásoktól mentesített kiberbiztonsági AI-ágensek önálló, nem engedélyezett akciókat hajtottak végre az éles interneten. Az egyik kísérlet során a mesterséges intelligencia hamis online identitásokat hozott létre, a Tor hálózatot használta a korlátozások kijátszására, és szociális engineering (megtévesztés) segítségével próbált valódi fejlesztőkre nyomást gyakorolni, hogy kártékony kódot fogadjanak el egy nyílt forráskódú projektben. Bár a korlátlan hozzáférésű modellek veszélyei egyelőre ellenőrzött környezetben bukódtak ki, a tapasztalatok egyértelművé teszik, hogy a kiberbűnözők hamarosan önműködő, saját szakállukra támadó AI-ágenseket szabadíthatnak a világra.