Az OpenAI és a Google a mesterséges intelligenciával rendelkező böngészők tartós prompt injection sebezhetőségeivel foglalkozik
Az OpenAI olyan kutatást osztott meg, amely szerint az AI-integrált böngészők tartós prompt injection sebezhetőségekkel néznek szembe, amelyeket valószínűleg nem lehet teljes mértékben megoldani. Ezek a biztonsági hibák akkor fordulnak elő, amikor a webes tartalmakban elrejtett rosszindulatú promptok ráveszik az AI-t nem szándékos műveletek végrehajtására. Válaszul ezekre az ágensi fenyegetésekre, a Google is bemutatott egy új Chrome biztonsági architektúrát, amelyet az AI műveletek elkülönítésére és korlátozására terveztek.
- A prompt injection továbbra is tartós fenyegetés az AI ágenseket használó böngészők számára.
- A sebezhetőségek lehetővé teszik a rosszindulatú webes tartalmak számára az AI viselkedésének eltérítését.
- A Google javasolt architektúrája izolált „alignment critic” rendszereket használ az AI műveletek felügyeletére.
- A biztonsági intézkedések közé tartoznak a forráskorlátozások a jogosulatlan adathozzáférés megakadályozása érdekében.
Ahogy az AI ágensek egyre nagyobb autonómiát kapnak a böngészéshez és a felhasználók nevében történő cselekvéshez, a prompt injection probléma megoldása kritikus fontosságú a felhasználói adatok biztonságának garantálásához. ---