Az OpenAI elindítja a Lockdown Mode-ot a ChatGPT biztonsági fenyegetések elleni védelmére
Az OpenAI bemutatta a ChatGPT „Lockdown Mode” funkcióját az új „Elevated Risk” (megnövekedett kockázat) címkékkel együtt, hogy megvédje a „kiemelten biztonságtudatos felhasználókat” az olyan fenyegetésektől, mint a prompt injection (amikor az AI-t adatvesztésre veszik rá).
- A Lockdown Mode egy opcionális beállítás, amely determinisztikusan letilt bizonyos ChatGPT eszközöket és képességeket, amelyeket egy támadó kihasználhatna.
- A mód specifikus védelmi funkciói közé tartozik a böngészés korlátozése a gyorsítótárazott (cached) tartalmakra, biztosítva, hogy ne hagyják el élő hálózati kérések az OpenAI környezetét.
- A ChatGPT workspace adminisztrátorok engedélyezhetik ezt a módot, és lehetőségük van specifikus alkalmazások vagy műveletek engedélyezési listára (whitelist) tételére, amelyek a lezárás alatt is elérhetőek maradnak.
- A vállalat új „Elevated Risk” címkéket is bevezet a ChatGPT-ben, az Atlasban és a Codexben, hogy megjelölje azokat a funkciókat, amelyek bármilyen szintű kockázatot jelenthetnek.
Miért fontos?
Ahogy az AI modellek egyszerű chatbotokból webböngészésre, alkalmazásokhoz való csatlakozásra és komplex feladatok végrehajtására képes ágensekké válnak, a biztonsági tét nagyobb, mint valaha. Ez a frissítés elismeri ezt a változást és azt a tényt, hogy a determinisztikus „kemény tiltások” lehetnek az egyetlen módja bizonyos AI kockázatok kezelésének. ---
Kapcsolódó hírek