AI-dolgozók nagyobb felügyeletet és a visszaélést bejelentők védelmét követelik egy nyílt levélben

Az OpenAI és a DeepMind több mint tucatnyi jelenlegi és korábbi alkalmazottja nemrégiben egy nyílt levélben fogalmazta meg aggályait az iparág jelenlegi biztonsági gyakorlatával kapcsolatban, sürgetve a nagyobb átláthatóságot és a hatékonyabb felügyeletet. A szakemberek, köztük a Deep Learning keresztapjainak tartott Geoffrey Hinton és Yoshua Bengio támogatásával, rámutattak arra az égető ellentmondásra, hogy míg a veszélyesebbnek ítélt iparágak – mint például a nukleáris energia vagy a gyógyszeripar – szigorú hatósági és biztonsági protokollok mentén működnek, az AI-fejlesztések terén a vállalatok saját belátásuk szerint járhatnak el. A levél aláírói szerint a cégek bár tisztában vannak modelljeik potenciális kockázataival, jelenleg csak minimális kötelezettségeik vannak az információk megosztására a kormányzati szervekkel, a civil társadalom felé pedig teljes a hírzárlat.

A kezdeményezés középpontjában konkrét követelések állnak, amelyek célja a biztonsági kultúra érdemi megváltoztatása. A munkavállalók szorgalmazzák a lejáratás elleni, úgynevezett non-disparagement megállapodások megszüntetését, amelyek eddig hatékonyan akadályozták meg a korábbi alkalmazottakat abban, hogy kritikát fogalmazzanak meg munkáltatójukkal szemben. Emellett követelik egy olyan, anonimitást biztosító belső folyamat kialakítását, amelyen keresztül a dolgozók közvetlenül jelezhetik biztonsági aggályaikat, valamint garanciákat várnak a visszaélést bejelentők, azaz a whistleblowerek védelmére is. Ez utóbbi különösen kritikus pont, hiszen a technológia gyors fejlődése mellett a kockázatok feltárása és nyilvánosságra hozatala jelenleg nagy szakmai és karrierbeli rizikót jelent az érintettek számára.

A téma aktualitását az OpenAI berkein belül zajló folyamatok táplálják, különös tekintettel a biztonságra fókuszáló superalignment csapat közelmúltbeli feloszlására. Miután a csoport két vezetője lemondott, a cég ugyan bejelentette egy új biztonsági részleg létrehozását, ám a kritikusok szerint ez a struktúra nem tekinthető függetlennek. A felügyeleti testület tagjai között ugyanis ott találjuk az OpenAI vezetőit, köztük Sam Altmant is, ami alapvetően kérdőjelezi meg az elszámoltathatóságot és az objektivitást. Ez a helyzet jól példázza a munkavállalói aggodalmakat: amíg a technológiai óriások saját magukat felügyelik, addig a civil kontroll és az átlátható, iparági standardokon alapuló biztonsági irányítás gyakorlatilag lehetetlen. A mostani kezdeményezés tehát nem csupán szakmai kérdéseket vet fel, hanem egy szélesebb társadalmi vitát is generál az AI felelős és biztonságos fejlesztésének kereteiről.