A Midjourney felfüggeszti az ingyenes próbaverziókat a hamis fotók miatt

A Midjourney, a napjainkban rendkívül népszerű generatív AI platform, hivatalosan is bejelentette, hogy határozatlan időre felfüggeszti az ingyenes próbaidőszakok lehetőségét. A döntés hátterében a rendszert érő tömeges visszaélések és a platform segítségével generált, világszerte futótűzként terjedő hamis fotók állnak. Az elmúlt időszakban olyan fiktív, mégis megdöbbentően valósághű képek árasztották el az internetet, mint például a pápát vagy Donald Trumpot ábrázoló mulatságos és félrevezető alkotások, amelyek élesen rávilágítottak a technológia szabályozatlanságából adódó veszélyekre.

A vállalat vezérigazgatója, David Holz a Discord csatornáján keresztül osztotta meg a részleteket a felhasználókkal, bepillantást engedve a hirtelen jött intézkedés kulisszái mögé. Holz elmondása szerint a problémát az okozta, hogy kirívóan rövid idő alatt több tízezer új felhasználó regisztrált úgynevezett egyszer használatos, eldobható fiókokat kizárólag azért, hogy ingyenesen generálhasson AI képeket. A helyzetet tovább súlyosbította egy Kínában rendkívül gyorsan elterjedt vírusvideó, amely bemutatta ezt a kiskaput, valamint egy ezzel egy időben fellépő, átmeneti GPU-hiány. Ez a két tényező együttesen akkora terhelést jelentett a szervereknek, hogy a szolgáltatás lassulása és akadozása ellehetetlenítette a munkát a fizetős előfizetők számára, akik közül sokaknak a felület be sem töltött.

A kialakult válsághelyzet kezelésére a Midjourney vezetősége radikális lépésekre szánta el magát az ingyenes verziók leállítása mellett. A cég az így nyert időt arra használja fel, hogy komoly és azonnali fejlesztéseket hajtson végre a moderációs rendszerében. Elsődleges céljuk egy olyan AI alapú sus, azaz gyanús tartalmakat felismerő detektor kifejlesztése, amely képes hatékonyabban moderálni a rendszert és azonosítani a szabályszegő kísérleteket. Emellett sokkal szigorúbb és egyértelműbb szabályokat határoznak meg az olyan ellentmondásos és visszaélésekre alkalmas promptok köré, mint amilyenek például a letartóztatási fotók generálására irányuló parancsok. A startup mindezek mellett egy szélesebb körű társadalmi és szakmai párbeszédet is kezdeményezni kíván a képmoderáció jövőjéről és etikai kérdéseiről.

Ez az eset komoly tanulságokkal szolgál az egész technológiai iparág számára, és új megvilágításba helyezi a szektor működését. Sokan úgy vélik, hogy Elon Musk korábbi figyelmeztetései beigazolódni látszanak, miszerint az AI technológia rohamléptekben fejlődik, és talán már túl gyorsan is mozog ahhoz, hogy bárki hatékonyan kordában tarthassa. A tech világban régóta hódító haladj gyorsan és rombolj szét dolgokat mantra most teljesen új értelmet nyert. Fel kell készülnünk arra, hogy a közeljövőben az AI cégek a piaci verseny miatt rohamos tempóban dobják majd piacra a legújabb termékeiket, de kénytelenek lesznek azonnal visszakozni és korlátozásokat bevezetni, amint a dolgok elkerülhetetlenül félresiklanak.