Az OpenAI, a Google és az Anthropic kivételével összeálltak az AI Bosszúállók

Az Nvidia által vezetett Open Secure AI Alliance számtalan piacvezető technológiai vállalattal összefogva küzdene a kibervédelem fejlesztése érdekében.

Az Nvidia több mint két tucat technológiai vállalattal közösen megalapította az Open Secure AI Alliance nevű kezdeményezést, amelynek célja a mesterséges intelligencia segítségével történő kiberbiztonsági védelem fejlesztése – számolt be róla a cég egy blogposztjában. Az alapító tagok között olyan ismert szereplők találhatók, mint a Microsoft, a Dell, a SpaceX, a Linux Foundation és természetesen maga az Nvidia. Ami viszont sokkal izgalmasabb, az a hiányzók névsora: sem az OpenAI (ChatGPT), sem a Google (Gemini), sem az Anthropic (Claude) nem vesz részt a mesterséges intelligencia Bosszúállók munkájában.

Visszatérve a bejelentésre, az Nvidia szerint a szövetség nyílt technológiákra építve kívánja felderíteni, javítani és nyilvánosságra hozni a biztonsági sérülékenységeket. A kezdeményezés a Linux Foundation Akrites projektjére és az OpenSSF közösség munkájára épül. Az Nvidia úgy véli, hogy a kiberbiztonsági szakembereknek a nyílt és a zárt mesterséges intelligencia modellekhez egyaránt hozzá kell férniük ahhoz, hogy hatékonyan védekezhessenek az egyre összetettebb támadásokkal szemben. A cég példaként a Hugging Face egyik közelmúltbeli incidensét említette, amikor a vállalat először kereskedelmi, zárt AI-modellekkel próbálta elemezni a támadást, azonban azok biztonsági korlátozások miatt megtagadták a kérést. Végül egy nyílt forráskódú modell segítségével több mint 17 ezer műveletet elemeztek, és sikerült megfékezniük a támadást.

Az Open Secure AI Alliance tagjai különböző technológiákkal járulnak hozzá a közös munkához. Az Nvidia nyílt modelleket, modellsúlyokat, adatokat és fejlesztői eszközöket biztosít, a HPE olyan szabványokat fejleszt, amelyekkel kriptográfiailag hitelesíthetők az AI-ügynökök, míg a Hugging Face a Safetensors formátumot ajánlja a modellek biztonságos tárolására. Emellett a Microsoft, az IBM, a Red Hat és a SpaceX AI-részlege is nyílt forráskódú megoldásokkal támogatja a kezdeményezést.

A szövetség továbbá felszólította a kormányokat, hogy működjenek együtt az iparági szereplőkkel a nyílt AI-infrastruktúra fejlesztésében. Álláspontjuk szerint a nyílt modelleket védelmi eszközként kellene kezelni, nem pedig kockázatként, mert a túlzott korlátozások gyengíthetik a kiberbiztonsági védekezést és néhány zárt rendszerű szolgáltató kezébe koncentrálhatják a piacot.

Az Open Secure AI Alliance kezdeményezés tagjai - forrás: Nvidia