A generatív AI a diktátorok eszközévé válik az ellenzéki hangok elnyomására
A generatív AI technológiák térnyerése nem várt és aggasztó fordulatot vett a globális politikai színtéren, ahol a demokratikus eszközök helyett egyre gyakrabban az elnyomás szolgálatába állítják őket. A Freedom House 2023-as átfogó tanulmánya rámutat arra a riasztó trendre, miszerint világszerte 16 ország politikai vezetői ismertek fel az AI-ban rejlő hatalmat: a generatív modelleket és a deepfake technológiát célzottan arra használják, hogy elfojtsák a társadalmi elégedetlenséget, és szisztematikusan dezinformációt terjesszenek az ellenzéki hangok hiteltelenítése érdekében. Ez a jelenség már nem csupán az autoriter rendszerek sajátja, hiszen a jelentés szerint a technológiai visszaélések az Egyesült Államok politikai környezetében is megjelentek.
A technológiai fejlődés és a dezinformáció ilyen mértékű összefonódása azért különösen veszélyes, mert a generatív AI segítségével előállított tartalmak ma már rendkívül élethűek és nehezen megkülönböztethetőek a valódi felvételektől vagy írott anyagoktól. A deepfake technológiák révén politikusokról vagy aktivistákról készült hamis videókkal, hanganyagokkal könnyedén lehet lejárató kampányokat indítani, amelyek pillanatok alatt bejárják a közösségi médiát. Mivel a technológia egyre elérhetőbb és olcsóbb, az autoriter rezsimek számára lehetővé vált az ellenzéki vélemények elnyomása anélkül, hogy közvetlen cenzúrához folyamodnának; helyette a manipulált valósággal és a figyelemeltereléssel érik el céljaikat.
A helyzet súlyosságát fokozza, hogy az AI alapú manipulációk alapjaivá váló LLM modellek és egyéb generatív rendszerek sok esetben gyorsan fejlődnek, miközben a rajtuk keresztüli dezinformáció terjedési sebessége messze meghaladja a hiteles cáfolatok megjelenésének lehetőségét. A Freedom House jelentése rávilágít arra, hogy a technológiai eszközök demokratikus intézményekbe vetett bizalom erózióját gyorsítják fel, hiszen a választók egyre nehezebben tudják eldönteni, melyik információ valódi, és melyik származik mesterséges forrásból. A probléma kezelése nem csupán technikai kihívás, hanem társadalmi és szabályozási kérdés is, amely azonnali figyelmet igényel a globális közösség részéről a digitális tér integritásának megőrzése érdekében.