Az új tanulmány szerint az AI modellek „unlearning” folyamata ronthatja a teljesítményt

Az új tanulmány szerint az AI modellek unlearning folyamata komoly kockázatokat rejthet, mivel a technológia alkalmazása a jelenlegi állapotában akár ronthatja is az összteljesítményt. Számos AI startup jelenleg azon dolgozik, hogy kifejlesszen egy megbízható módszert, amellyel a nagy nyelvi modellek képesek lennének elfelejteni a már szükségtelenné vált vagy nemkívánatos információkat. A fejlesztők eredeti elképzelése szerint ez a folyamat nemcsak a biztonságot és a szabályozásnak való megfelelést segítené, hanem növelhetné a modellek hatékonyságát is. Egy frissen megjelent kutatás azonban arra figyelmeztet, hogy az unlearning módszerét jelenleg még nem szabadna a való világban, éles környezetben alkalmazni, mivel a kényszerített felejtés negatív hatással lehet a válaszok minőségére, ami hosszú távon az AI rendszerek használhatatlanná válásához is vezethet.

A probléma hátterében az áll, hogy a modern AI modellek rendkívül komplex összefüggések mentén tárolják az adatokat, és a tanítás során megszerzett tudás mélyen beépül a neurális hálózatok paramétereibe. Amikor a fejlesztők egy unlearning technikát alkalmaznak, lényegében megpróbálják sebészi pontossággal eltávolítani a specifikus információkat anélkül, hogy a modell általános képességei sérülnének. A kutatók által megfigyelt jelenség azonban rámutat arra, hogy ez a folyamat gyakran járulékos károkat okoz a modell általános intelligenciájában és érvelési képességében. Mivel a modellek nem lineárisan tárolják az adatokat, egy adott információrészlet törlése gyakran olyan logikai láncolatokat is megbont, amelyek elengedhetetlenek a pontos és releváns válaszadási képesség fenntartásához.

Ez a felfedezés azért bír kiemelt jelentőséggel az iparágban, mert az AI fejlesztésében érdekelt cégek számára a felejtés képessége kulcsfontosságú a jogi megfelelés és az adatvédelem szempontjából. Különösen igaz ez a GDPR vagy más szigorú adatvédelmi irányelvek betartása kapcsán, ahol előfordulhat, hogy a modellekből utólag kell eltávolítani a személyes adatokat vagy a szerzői jogvédelem alá eső tartalmakat. A mostani tanulmány arra világít rá, hogy bár a szándék technológiailag megalapozott, a gyakorlati kivitelezés még gyerekcipőben jár. A fejlesztők számára a fő kihívást az jelenti, hogyan érjék el a szelektív felejtést anélkül, hogy közben a modell általános teljesítménye drasztikusan leromlana. Amíg ez a technológiai akadály nem hárul el, a vállalatoknak fokozott óvatossággal kell eljárniuk, mielőtt éles rendszerekben kísérleteznének az unlearning megoldásokkal, elkerülve ezzel azt a kockázatot, hogy az AI válaszai pontatlanná vagy éppen használhatatlanná váljanak.