Korábbi OpenAI és DeepMind alkalmazottak nyílt levelet tettek közzé az AI biztonságról

A mesterséges intelligencia fejlesztésének felgyorsulása és az ezzel járó biztonsági kockázatok egyre élesebb vitákat váltanak ki a technológiai szektorban. A napokban egy jelentős lépés történt az ügyben, amikor 13 jelenlegi és korábbi OpenAI, valamint DeepMind alkalmazott egy nyílt levelet tett közzé „A Right to Warn about Advanced Artificial Intelligence”, vagyis a fejlett mesterséges intelligenciával kapcsolatos figyelmeztetés joga címmel. A szerzők komoly aggályokat fogalmaztak meg azzal kapcsolatban, hogy a biztonsági kultúra hogyan szorul háttérbe a látványos termékfejlesztések és a nyereségmaximalizálás mellett. A levél rámutat arra a kritikus hiányosságra, hogy jelenleg nincsenek olyan hatékony mechanizmusok, amelyekkel az AI-cégeket számon lehetne kérni biztonsági ígéreteik betartásán, miközben az alkalmazottak sem rendelkeznek megfelelő védett csatornákkal ahhoz, hogy a kockázatos fejlesztésekről tájékoztathassák a hatóságokat vagy a nyilvánosságot.

A probléma gyökere a Szilícium-völgy domináns üzleti modelljében keresendő, ahol néhány vezető vállalat, köztük az OpenAI, a Google, az Anthropic és a Meta birtokolja a legerősebb technológiai eszközöket. Bár ezek a szervezetek gyakran hangoztatják elkötelezettségüket a biztonságos, emberbarát AI iránt, a belső működésük profitorientált jellege gyakran felülírja a biztonsági szempontokat. A nyílt levél aláírói szerint a biztonsági folyamatok és az etikai megfontolások gyakran a technológiai verseny és a piaci termékmegjelenések áldozataivá válnak. Ez az elégedetlenség már korábban is megmutatkozott, amikor például Jan Leike, az OpenAI korábbi Superalignment csapatának társvezetője élesen bírálta a vállalat hozzáállását, kiemelve, hogy szerinte a cég a profitot helyezi előtérbe a biztonsággal szemben.

A belső feszültségekre jellemző példa az OpenAI vezetőségében tapasztalt változások sora is. A biztonsági felügyelettel kapcsolatos belső konfliktusok vezethettek Ilya Sutskever társalapító, valamint Helen Toner korábbi igazgatósági tag távozásához is. Utóbbi kifejezetten éles vádakat fogalmazott meg, állítása szerint ugyanis Sam Altman, az OpenAI vezérigazgatója többször is hamis információkkal szolgált a vállalat biztonsági eljárásaival kapcsolatban. A helyzet súlyosságát jelzi az a korábbi vitatott gyakorlat is, amelyben a távozó munkavállalókat élethosszig tartó titoktartási nyilatkozat, azaz NDA aláírására kötelezték részvényopcióik megtartása fejében, amit a közfelháborodást követően nemrég kénytelenek voltak visszavonni.

Ez a fejlemény azért rendkívül fontos, mert rávilágít az AI-iparág jelenlegi sebezhetőségére: a kormányzati szabályozók lassú reakcióideje miatt a biztonsági kérdések megoldása jelenleg szinte teljesen a vállalatok önkorlátozásán múlik. Mivel az alkalmazottak számára nem biztosított a kockázatok bejelentésének biztonságos útja, a „Right to Warn” kezdeményezés valójában a transzparencia iránti igényt fejezi ki. Bár egyelőre csupán 13 emberről van szó, az általuk felvetett problémák alapjaiban kérdőjelezik meg azt, hogy az emberiség jövőjét meghatározó technológia fejlesztése biztonságos keretek között folyik-e.