Globális akadémikusok sürgető szakpolitikai szabályozást javasolnak a fejlett AI kockázatainak kezelésére
Tisztelt akadémikusok egy csoportja az Egyesült Államokból, Észak-Amerikából, Kínából, Európából és más országokból egy rövid tanulmányt tett közzé, amely a „közelgő, fejlett AI-rendszerek kockázatait” írja le, és szakpolitikai ajánlásokkal zárul. A tanulmány az AI-politika intenzív időszakában érkezik, beleértve a közelmúltbeli amerikai elnöki rendeletet, a G7 AI-vállalatokra vonatkozó magatartási kódexét és a Bletchley Park-i AI Summitot. A tanulmány üzenete, hogy a kormányoknak és a vállalatoknak több erőforrást kell irányítaniuk az AI-rendszerek biztonsága és megbízhatósága felé: „Az emberiség hatalmas erőforrásokat fektet az AI-rendszerek hatékonyabbá tételébe, de sokkal kevesebbet a biztonságba és a károk mérséklésébe. Ahhoz, hogy az AI áldás legyen, irányt kell váltanunk; az AI képességeinek önmagában való növelése nem elég” – írják a kutatók.
- Az iparági laboratóriumoknak az AI K+F erőforrásaik egyharmadát biztonságra, őszinteségre, robusztusságra és értelmezhetőségre kellene fordítaniuk.
- A frontier AI fejlesztőknek részletes és függetlenül ellenőrzött skálázási irányelvek mellett kellene elköteleződniük.
- A kormányoknak nemzeti és nemzetközi biztonsági szabványokat kellene kidolgozniuk az AI tanítása és üzembe helyezése kapcsán.
- A kormányoknak meg kellene követelniük az AI-rendszerek auditálását a tanítási folyamat során.
- A hatóságoknak felügyelniük kellene az AI fejlesztéséhez használt nagyméretű compute clustereket.
- Az ajánlások között szerepel egy engedélyezési rendszer létrehozása és a szabályozók felhatalmazása a fejlesztés leállítására, ha szükséges.
Miért fontos?
Mindez leginkább úgy tűnik, mint ami akkor történik, amikor a meglévő politikai szereplők úgy érzik, hogy hatalmi bázisukat egy új politikai belépő megzavarja, és megpróbálnak kontrollt gyakorolni felette, hogy a) rálássanak, és b) semlegesítsék, ha veszélyt jelent. A mögöttes motiváció az, hogy csak nagyon kevés szereplő rendelkezik aszimmetrikus információkkal az AI jövőbeli pályájáról. ---