Az Nvidia és a Microsoft elindítja a Nyílt Biztonságos AI Szövetséget

Az Nvidia, a Microsoft és további harminchat szervezet hivatalosan is elindította a Nyílt Biztonságos AI Szövetséget, amelynek célja, hogy nyílt forráskódú eszközökkel erősítse meg a mesterséges intelligencia rendszerek biztonságát. Az elmúlt évben az iparág egyik legfőbb vitája arról szólt, hogy a nyílt modellek veszélyes ajándékot jelentenek-e a rosszindulatú támadóknak, vagy éppen ellenkezőleg, elengedhetetlen eszközök a hatékony védelmi munkához. Az új koalíció létrehozásával az Nvidia ezt a korábbi elméleti vitát egy gyakorlatias, kézzelfogható összefogássá alakította át, amelyben olyan jelentős iparági szereplők is részt vesznek, mint az IBM, a Cisco, a CrowdStrike és a Hugging Face.

A szövetség megalakulásának közvetlen kiváltó oka a nemrégiben történt Hugging Face adatszivárgás volt, amelynek során a zárt AI-eszközök állítólag akadályozták a forenzikus vizsgálat bizonyos részeit. A probléma gyökere az volt, hogy ezek a rendszerek képtelenek voltak megbízhatóan megkülönböztetni egymástól a vizsgálatot végző védőket a rosszindulatú támadóktól. Az Nvidia alapvető érvelése szerint egy kibertámadás kibontakozásakor a szakembereknek olyan modellekre van szükségük, amelyeket szabadon megvizsgálhatnak, a saját igényeikhez adaptálhatnak, és szükség esetén akár helyben is futtathatnak. Egy külső szereplő által felügyelt, zárt biztonsági szűrő ugyanis egy vészhelyzet közepén könnyen egy újabb áttörhetetlen akadállyá válhat a védők számára.

A koalíció széles körű terveket fogalmazott meg a jövőre nézve, amelyek magukban foglalják nyílt biztonsági eszközök fejlesztését és megosztását az AI-ügynökök számára. Ennek keretében modern identitásrendszereket, biztonságosabb modellformátumokat, valamint részletes vizsgálati keretrendszereket és auditálási eszközöket szándékoznak létrehozni, kiegészítve ezt egy átfogó vörös csapat, azaz red-team infrastruktúrával. Érdekes ellentmondás, hogy az olyan jelentős zárt szereplők, mint az OpenAI, a Google és az Anthropic, jelenleg teljes egészében hiányoznak ebből a szövetségből, ami élesen rávilágít az AI-piacon meglévő fundamentális szemléletbeli különbségekre.

Ez a fejlemény azért bír kiemelt jelentőséggel, mert a biztonság fogalmát napjainkban két teljesen ellentétes AI-politika alátámasztására használják a piaci szereplők. Míg a frontier laboratóriumok azzal érvelnek, hogy a hatékony modellek súlyainak zártan tartása hatékonyan korlátozza a visszaéléseket és a veszélyes helyzeteket, addig az infrastruktúra-cégek és a nyílt pártiak arra hívják fel a figyelmet, hogy a zárt rendszerek veszélyesen összpontosítják az irányítást. Utóbbiak álláspontja szerint a korlátozások valójában megakadályozzák a védőket abban, hogy alaposan megvizsgálják és ezáltal hatékonyan védjék a kritikus eszközöket.