Az OpenAI arról vitázik, mikor jelentesse meg AI-képdetektorát
Az OpenAI jelenleg belső vitákat folytat arról, hogy mikor és milyen formában jelentesse meg a legújabb fejlesztését, egy kifejezetten az AI-generált képek kiszűrésére alkalmas detektort. A mesterséges intelligencia által létrehozott vizuális tartalmak az elmúlt időszakban hatalmas kihívást gördítettek a modern digitális világ elé, így egy ilyen szoftvereszköz kiadása kulcsfontosságú lépés lehetne a dezinformáció elleni globális küzdelemben. Bár a technológia elméletileg már létezik, a vállalat vezetősége rendkívül óvatos a piaci bevezetéssel kapcsolatban, mivel a megbízhatóság kérdése továbbra is komoly fejtörést okoz a szakembereknek.
A helyzet sürgősségét jól mutatja, hogy az elmúlt évben olyan világhírű hírességek arcával készült, AI-generált deepfake-ek terjedtek el vírusként az interneten, mint Tom Cruise, Barack Obama vagy Tom Hanks. A probléma azonban nemcsak a vezető politikusokat és a hollywoodi filmsztárokat érinti, hanem a hozzánk hasonló hétköznapi emberek is könnyen egy deepfake-támadás áldozataivá vagy célpontjaivá válhatnak. Ez a veszély megnyilvánulhat az egyének arcát tartalmazó nemkívánatos és visszaélésszerű képek online terjesztésében, különféle csaló profilok tevékenységében, vagy akár külföldi kormányok által irányított, félrevezető képekkel végrehajtott politikai manipulációs kísérletekben. Egy hatékony detektor segítségével az emberek, a vállalkozások és a kormányok végre sikeresen védekezhetnének az ilyen ártalmas forgatókönyvek ellen.
Az OpenAI azonban még nem teljesen biztos a dolgában, ezért húzódik a hivatalos bejelentés. Mira Murati CTO tájékoztatása szerint az új védelmi eszköz már most 99 százalékos megbízhatósággal működik, a vállalat mégis úgy érzi, hogy a szoftver még nem érte el a szükséges és elvárt küszöbértéket. Az OpenAI fokozott óvatossága a múltbeli tapasztalatokból és kudarcokból is fakadhat. Korábban ugyanis már kiadtak egy detektort az AI-generált szövegek felismerésére, amelyet a felhasználók és szakértők részéről érkező komoly kritikák, valamint az alacsony pontosságról szóló negatív jelentések után végül kénytelenek voltak teljesen visszavonni a piacról.
A most fejlesztés alatt álló képfelismerő rendszer kapcsán jelenleg az sem világos, hogy a detektor kizárólag az OpenAI saját képmodelljeivel generált képeken fog-e megbízhatóan működni, vagy képes lesz-e a más fejlesztők által létrehozott AI-modellek vizuális produktumait is sikeresen azonosítani. Egyelőre csupán annyit lehet tudni a projektről, hogy egy ilyen hiánypótló eszköz már készülőben van, és a jövőben hivatalosan is megjelenhet a nagyközönség számára.