Rejtett prompt-sebezhetőség miatt szivárogtatott ki személyes adatokat a Claude

Súlyos biztonsági rést fedeztek fel a népszerű mesterséges intelligencia, a Claude rendszereiben, amely a felhasználók személyes adatainak védelmét érinti. Egy független biztonsági kutató által azonosított, Memória-rablás névre keresztelt sebezhetőség lehetővé teszi, hogy célzott promptok segítségével a modell kiszolgáltassa a memóriájában tárolt bizalmas információkat. Ez a hiba rávilágít arra, hogy az LLM-ek hosszú távú memória-funkciói, amelyek elvileg a felhasználói élményt hivatottak javítani az előzmények megjegyzésével, komoly kockázatot is jelenthetnek, ha a rendszer védelme nem kellően szigorú.

A probléma lényege abban rejlik, hogy a modell úgynevezett perzisztens memóriája, amelyben a korábbi beszélgetésekből származó fontos adatokat tárolja, egy ügyes technikai trükkel kijátszható. A kutató bebizonyította, hogy a megfelelő rejtett promptok alkalmazásával a Claude rávehető arra, hogy kiadja azokat a szenzitív részleteket, mint például a felhasználók valódi neve, munkahelyi beosztása vagy akár a fiókokhoz tartozó biztonsági kérdésekre adott válaszok. Mivel ezek az adatok a rendszer mélyebb rétegeiben tárolódnak, a felhasználók sokszor nincsenek is tudatában annak, hogy az AI hosszú távon megőrzi és adott esetben újra felhasználja ezeket az információkat.

Ez az eset éles megvilágításba helyezi a modern AI-fejlesztések egyik legkritikusabb biztonsági kihívását. Miközben a vállalatok, köztük az Anthropic is, azon dolgoznak, hogy az LLM-ek minél személyesebbé és hatékonyabbá váljanak a kontextus megjegyzése által, a biztonsági protokollok gyakran lemaradnak a funkciók mögött. A Memória-rablás nem csupán technikai érdekesség, hanem komoly figyelmeztetés is a fejlesztők és a felhasználók számára: az AI-ba vetett bizalom feltételezi, hogy a ránk vonatkozó bizalmas információk elszigeteltek és védettek maradnak. A jelenség rávilágít arra, hogy a jövőben sokkal nagyobb hangsúlyt kell fektetni az adatszivárgás elleni védelemre, különösen azokban a rendszerekben, amelyek hosszú távú memóriával rendelkeznek, és aktívan gyűjtik a felhasználói adatokat a személyre szabott válaszok érdekében.