Radikális opcionalitás: Új megközelítés a transzformatív AI rendszerek irányítására
Az Institute for Law & AI kutatói a „radikális opcionalitásról” írtak, egy olyan megközelítésről, amellyel a kormányok felvértezhetik magukat azokkal az eszközökkel, amelyekre a jövőben szükségük lehet, ha a nagy teljesítményű AI elkezdi tömegesen felforgatni a világot. „Lényegében a radikális opcionalitás arról szól, hogy megőrizzük a demokratikus kormányok azon képességét, hogy jó döntéseket hozzanak a transzformatív AI rendszerek irányításáról a körülmények alakulásával párhuzamosan. Rövid távon ez a túlszabályozás elkerülését jelenti, miközben gyorsan kiépítjük azokat az intézményeket, információs csatornákat és jogi hatásköröket, amelyek szükségesek a különféle szcenáriókra való kompetens reagáláshoz.” A kulcsgondolat a befektetés a bizonytalan jövőbe: tekintettel az AI fejlesztés hatalmas tétjére, „a kormányoknak készen kell állniuk arra, hogy rendkívüli mennyiségű pénzt, erőfeszítést és politikai tőkét áldozzanak az opcionalitás fenntartására” – írják. A szerzők azzal érvelnek, hogy a kormányoknak óvakodniuk kell a kontraproduktív beavatkozásoktól, de nem kell aggódniuk az olyan intézkedések tényleges pénzügyi költségei miatt, amelyek valószínűleg pozitív nettó eredménnyel járnak. A tanulmány több beavatkozási kategóriát is érint, beleértve az információgyűjtést, a visszaélést bejelentők védelmét és a tehetségek megszerzését.
- Információgyűjtési hatáskörök: Átláthatósági és jelentési kötelezettségek az AI cégek számára, auditálási rendszerekkel párosítva.
- Visszaélést bejelentők védelme: Annak biztosítása, hogy a határterületi laboratóriumok alkalmazottai jelenthessék a kockázatokkal kapcsolatos információkat.
- Információmegosztás: A kormányokon belüli és azok közötti koordináció elősegítése, különösen a kritikus ellátási láncok tekintetében.
- Rugalmas szabályok és definíciók: Feltételes „ha-akkor” típusú szabályozási kötelezettségvállalások és magas szintű célok használata a korai szabályozás elkerülése érdekében.
- Felmérések és értékelések: Belső és harmadik fél általi kapacitás fejlesztése az AI képességek és a biztonság értékelésére.
- Modell súlyok biztonsága: Befektetés a fizikai és kiberbiztonsági önkéntes szabványokba a neurális hálók súlyainak és algoritmikus titkainak védelme érdekében.
- Toborzás és tehetséggondozás: Az olyan szervezetek finanszírozásának növelése, mint az Egyesült Királyság AISI és az Egyesült Államok CAISI a technikai kompetencia kiépítése érdekében.
Egyetértek az összes itt szereplő javaslattal, és az elmúlt években sokat közülük magam is szorgalmaztam. Úgy tűnik számomra, hogy rengeteg dolgot tehetnénk azért, hogy társadalomként jobban felkészüljünk a potenciálisan hatalmas változásokra. „Ezen irányelvek végrehajtásának költsége csekély a potenciális előnyökhöz képest. Ezzel szemben a cselekvés elmulasztásának ára potenciálisan katasztrofális” – írják a szerzők. ---