AI-kutatók „figyelmeztetési jogot” követelnek a biztonsági kockázatokkal kapcsolatban

A mesterséges intelligencia rohamos fejlődésével párhuzamosan egyre hangosabbá válnak a biztonsági aggályok is, amelyek most egy egészen új szintre léptek. A legjelentősebb AI-laboratóriumok – köztük az OpenAI, az Anthropic és a Google DeepMind – jelenlegi és korábbi munkatársai összefogtak, és egy közös nyílt levelet tettek közzé. Ebben a kezdeményezésben az úgynevezett „figyelmeztetési jogot” (Right to Warn AI) követelik a maguk és kollégáik számára. A petíció célja, hogy alapjaiban terjessze ki és erősítse meg a visszaélést bejelentők, vagyis a whistleblowerek védelmét az iparágon belül, biztosítva ezzel, hogy a dolgozók a megtorlástól vagy a komoly egzisztenciális következményektől való félelem nélkül hívhassák fel a nyilvánosság és a szabályozók figyelmét a potenciális AI-veszélyekre.

A kezdeményezés súlyát jól mutatja, hogy a levelet az iparág legelismertebb vizionáriusai és úttörői is nyíltan támogatták, köztük Yoshua Bengio, Geoffrey Hinton és Stuart Russell, akiknek a szava döntő fontosságú az AI-biztonság kérdésében. A megfogalmazott nyilatkozat konkrét, alapvető elvek elfogadására ösztönzi a vezető tech vállalatokat. A kutatók követelik az AI-kockázatokra vonatkozó szigorú titoktartási kötelezettségek eltörlését, valamint a jó hírnév rontását tiltó, úgynevezett non-disparagement klauzulák semmissé tételét, amelyek jelenleg elnémítják a kritikus hangokat. Emellett szorgalmazzák olyan megbízható és teljesen anonim csatornák létrehozását, amelyeken keresztül a munkatársak biztonságosan jelezhetik belső aggályaikat, továbbá a megtorlás elleni szigorú intézkedések kiterjesztését is elengedhetetlennek tartják a szektorban.

Ez a belső lázadás nem ok nélküli, hiszen a háttérben komoly személyes történetek és tapasztalatok húzódnak meg. Több kutató is nyilvános bejegyzésekben osztotta meg azokat a negatív élményeket, amelyek erre a lépésre kényszerítették őket. Daniel Kokotajlo például nyíltan elárulta, hogy azért döntött az OpenAI-nál való felmondás mellett, mert teljesen elveszítette a reményt azzal kapcsolatban, hogy a vállalat a jövőben felelősségteljesen és etikusan fog eljárni a technológia fejlesztése során. Az AI-biztonságról szóló diskurzus ezzel a lépéssel egyértelműen a forráspontjához közeledik. Jól látható egy mély, iparági szintű megosztottság, amely már régen túlmutat bármelyik konkrét tech cégen vagy egyéni kutatón. A javasolt elvek észszerűnek, logikusnak és a társadalmi érdekek szempontjából rendkívül szükségesnek tűnnek, ám az igazi kérdés az, hogy a vezető AI-irányítók és döntéshozók valóban hallgatnak-e a figyelmeztető szavakra, vagy folytatják a megkezdett utat a kockázatok figyelmen kívül hagyásával.