AI IRÁNYELVEK
A Pentagon kimutathatatlan AI deepfake-ek létrehozására törekszik titkos műveletekhez
A The Intercept új nyomozása feltárja, hogy az amerikai hadsereg „kimutathatatlan” AI által generált online személyiségek fejlesztését tervezi. A Pentagon Közös Különleges Műveleti Parancsnoksága (JSOC) olyan meggyőző álidentitásokat akar létrehozni, amelyeket más AI-rendszerek sem tudnak szintetikusként azonosítani. A kezdeményezés célja „kormányzati azonosító minőségű fotók”, deepfake szelfivideók és hozzájuk illő hangsávok készítése titkos online műveletekhez. Ironikus módon ez a lépés azután történik, hogy az amerikai kormány korábban arra figyelmeztetett: az ellenfelek generatív AI deepfake-jei „rosszindulatú befolyásolási gyorsítóként” hatnak.
- A hadsereg olyan személyiségeket akar létrehozni, amelyek megkerülik az automatizált felismerő rendszereket.
- A követelmények között szerepelnek a nagy hűségű hamis azonosítók, valamint a szinkronizált videós és audió elemek.
- A JSOC a StyleGAN-alapú személyiségekre összpontosít ezeknél a műveleteknél.
- A deepfake-eket jelenleg világszerte figyelik a választásokra gyakorolt potenciális hatásuk miatt.
Miért fontos?
A generatív AI képek már most elárasztják a közösségi médiát, gyakran politikai narratívákat erősítve. A Pentagon deepfake-törekvése olyan, mintha kinyitnák az online megtévesztés Pandóra szelencéjét, ami felgyorsíthatja az AI-alapú dezinformációs fegyverkezési versenyt más kormányokkal.