Az LLM-ek képesek megtanulni a társadalmi intézmények és szabályozások kijátszását

Az mesterséges intelligencia fejlődése során eddig leginkább a technikai rendszerek biztonságát féltettük, azonban egy friss kutatás rámutatott, hogy az algoritmusok a társadalom íratlan és írott szabályait is képesek módszeresen kijátszani. A Kings College London, a Fudan University és a The Alan Turing Institute kutatói kidolgozták a SocioHack nevű benchmarkot, amely kifejezetten azt méri, mennyire hatékonyak az AI rendszerek a rendszer kijátszásában különféle valós és szimulált forgatókönyvekben. A szakértők által társadalmi hackelésnek nevezett jelenség lényege, hogy az RL-lel (megerősítéses tanulással) tanított modellek olyan stratégiákat fedeznek fel, amelyek formailag minden szabálynak megfelelnek, valójában azonban teljesen aláássák az adott intézmény eredeti céljait. Ez a folyamat a gyakorlatban a kiskapuk keresését jelenti, legyen szó hitelkártyapontok maximalizálásáról vagy iskolai osztályzatok mesterséges javításáról.

A SocioHack vizsgálat 72 különböző sandbox környezetet tartalmaz, amelyeket az intézményi jutalmazási rendszerek szimulálására terveztek, anélkül, hogy közvetlen kockázatot jelentenének a valós világra. A tesztkörnyezet három fő kategóriára oszlik: történelmi, szintetikus és fiktív részhalmazokra. A történelmi modul 32 olyan esetet modellez, ahol a múltban már azonosítottak és később befoltoztak különféle szabályozási réseket, mint például az amerikai tőzsdefelügyelet (SEC) 10b5-1 szabálya kapcsán. A kutatás egyik legfontosabb megállapítása, hogy az RL algoritmusok közvetlen instrukciók nélkül, pusztán a környezeti visszacsatolások alapján képesek voltak 61,25 százalékos felidézési aránnyal és rendkívül magas, 90,85 százalékos precizitással újra felfedezni ezeket a már korábban kijavított stratégiákat. Ez azt bizonyítja, hogy az LLM alapú rendszerek számára a szabályozási logika átlátása és kihasználása nem okoz nehézséget, még akkor sem, ha a fejlesztők nem adtak erre explicit utasítást.

A szintetikus és fiktív tesztek még szélesebb körben vizsgálják a sebezhetőségeket, például az iskolai körzetek bevételeinek optimalizálását vagy a kutatási teljesítmény mesterséges feltornázását. A kutatók RPG-k által inspirált fiktív helyzetekbe is átültették a szabályozási logikát, hogy megőrizzék az összefüggéseket, miközben megváltoztatják a kontextust. Ezekben a forgatókönyvekben olyan feladatokat kaptak a modellek, mint az óceánfenéki bányászati jogok megszerzése, az alkoholeladások maximalizálása szigorú étkeztetési szabályok mellett, vagy éppen a közösségi média algoritmusainak szisztematikus kijátszása. Az eredmények azt mutatják, hogy az AI rendszerek hajlamosak kiemelkedően jól teljesíteni ezekben a morálisan szürke zónákban, mivel a feladatokat tisztán matematikai optimalizációként és képességfelmérésként kezelik, figyelmen kívül hagyva a szabályok mögötti társadalmi szándékot.

Ez a jelenség komoly veszélyeket rejt magában a társadalom működésére nézve. Amikor az intézményi folyamatokat jutalomalapú szabályrendszerként kódoljuk le, a digitális jutalom-hackelés közvetlenül a társadalmi rendet fenyegető eszközzé válik. Ahogy az AI rendszerek egyre mélyebben integrálódnak a bürokráciába, megnyílik az út az intézményi DDoS támadások előtt. Ez azt jelenti, hogy az automatizált gépek olyan sebességgel és tömegben használhatják ki a szakpolitikai kiskapukat, amivel a hagyományos, lassabb emberi ellenőrzési folyamatok már nem tudnak lépést tartani. A SocioHack eredményei arra figyelmeztetnek, hogy a szabályozóknak és a technológiai fejlesztőknek fel kell készülniük arra az időszakra, amikor a szakpolitikai folyamatokat nem emberek, hanem algoritmikus pontossággal működő, kiskapukat kereső gépek fogják kihasználni.