AI OKTÁTÁS
Az NVIDIA megosztotta a „Kettes Szabály” keretrendszert az AI ágensek biztosításához
Ki gondol itt a biztonságra? Pontosan erről beszéltünk a Microsofttal, szóval tudjuk, hogy ők igen. De valójában az NVIDIA is. A Latent Space podcastben az NVIDIA Brev csapata megosztotta belső „Kettes Szabályát”. Az NVIDIA kijelentette, hogy nem helyeznek vállalati adatokat olyan modellbe, amelyet nem ők ellenőriznek belsőleg. Saját modelljeiket belső Dynamo fürtökön futtatják. Ez biztos jó lehet. Nekünk többieknek ez azt jelenti, hogy ellenőrizni kell az adatvédelmi megállapodásokat, mielőtt szabadjára engednénk egy ágenst a saját adatainkon.
Hozzáférést adsz az AI ágenseknek a rendszereidhez? Íme a keretrendszer, amelyet az NVIDIA belsőleg használ. A szabály: Az ágensek három dolgot tehetnek: hozzáférhetnek a fájljaidhoz, elérhetik az internetet és kódot futtathatnak. Egyszerre csak kettőt engedj nekik. Ha egy ágens olvashatja a fájljaidat és kódot futtathat, az internet-hozzáférés a sebezhetőség. A webről származó malware-ek a privát adataid ellen futhatnak. Ha internet- és fájlhozzáféréssel rendelkezik, pontosan tudnod kell, mi a tevékenységi köre.
- Az AI ágenseknek csak 2 képességgel kellene rendelkezniük a 3-ból: fájlhozzáférés, internetelérés vagy kódvégrehajtás.
- Alkalmazzunk először sandboxingot az ágensek izolált környezetben való futtatásával, például OpenClaw-ban a Brev-en (egy VM a vállalati hálózaton kívül).
- Építsünk CLI-ket a nyers API hozzáférés helyett, hogy előre meghatározzuk a pontos parancsokat, amiket az ágens futtathat.
- Vonjuk be korán a biztonsági csapatokat a sandboxing közös megtervezésébe, ahelyett, hogy utólag kérnénk jóváhagyást.
- Korlátozzuk az internet-hozzáférést, ha az ágens fájlhozzáférést és kódvégrehajtási képességet is kapott.
Miért fontos?
Az ágensek már nem csak elméletben léteznek; egy autonóm ágens nemrég kevesebb mint két óra alatt feltörte a McKinsey belső chatbotját, hozzáférést szerezve 46,5 millió üzenethez és 728 000 bizalmas fájlhoz egy egyszerű SQL injection segítségével.