New York polgármestere felháborodást váltott ki azzal a beismerésével, hogy AI deepfake-eket használ

Komoly társadalmi és etikai vitát váltott ki New York polgármestere, Eric Adams azzal a közelmúltbeli beismerésével, miszerint hivatala mesterséges intelligenciát használ a róla készült deepfake felvételek generálására. Bár a technológiát gyakran a dezinformáció és a bűnözői visszaélések kapcsán emlegetik, Adams esete egy szokatlan felhasználási módot mutat be: a városi munkaerő-toborzást támogató automata hívásokhoz vette igénybe az AI-t. A polgármesteri hivatal olyan technológiát alkalmazott, amely Adams hangját felhasználva, idegen nyelveken, például spanyolul és mandarinul szólaltatta meg őt, mindezt anélkül, hogy a hívások során egyértelműen jelezték volna a mesterséges eredetet, vagy azt a tényt, hogy a politikus valójában nem beszéli ezeket a nyelveket.

A technológiai innováció és a nyilvánosság megtévesztése közötti vékony határvonalat feszegető ügy komoly visszhangot váltott ki. Adams újságírói kérdésekre válaszolva büszkén mesélt a pozitív fogadtatásról, megjegyezve, hogy az utcán sokan megszólítják, dicsérve nyelvtudását, ám a szakmai és jogvédő körökben korántsem ilyen egyértelmű a megítélés. A Surveillance Technology Oversight Project nevű New York-i szervezet élesen bírálta a polgármestert, etikátlannak és orwelli léptékűnek nevezve a gyakorlatot. A kritikusok szerint a problémát nem a technológia önmagában való használata jelenti, hanem az átláthatóság hiánya, hiszen a polgárok nem tudhatták, hogy egy gépi algoritmus szimulálja a választott vezetőjük hangját egy hivatalos közleményben.

Ez az eset kiváló példája annak a komplex kihívásnak, amellyel a döntéshozók és a társadalom szembesül az AI gyors elterjedése közepette. Mivel a deepfake technológia egyre kifinomultabbá és elérhetőbbé válik, a valóság és a digitálisan generált tartalom közötti különbség elmosódik. A hatóságok világszerte aggódnak amiatt, hogy az ilyen típusú technológiák milyen kockázatokat rejtenek a személyes biztonságra, a választási folyamatok integritására és a tömeges dezinformációra nézve. Adams polgármester példája rámutat arra, hogy a politikai vezetők számára is vonzó lehet a hatékonyság növelése érdekében alkalmazott AI, ugyanakkor ez a helyzet rávilágít a szigorú szabályozási keretek és az etikai irányelvek kidolgozásának égető szükségességére, mielőtt a digitális hamisítványok teljesen átírnák a közbeszéd szabályait.