A RAND elemzi a tévelygő szuperintelligencia elleni harc módszereit, hatástalannak találva azokat
Milyen dolgokat tehetnénk egy hatalmas AI rendszer ellen, amely alapvető fenyegetést jelent az emberiségre? Ezt a kérdést boncolgatja a RAND egy ijesztő új tanulmánya. A RAND által vázolt lehetőségek és azok hatékonysága ijesztőek, hatalmas járulékos károkkal járnak, és lehet, hogy nem is működnek. Ez azt sugallja, hogy ha az emberiségnek valaha is egy ijesztő AI rendszer ellen kell harcolnia, akkor legalábbis jelenleg vesztésre áll. A legtöbb lehetőség nem működik: A HEMP működhetne abban az értelemben, hogy nagyszámú infrastruktúrát vonhatna meg egy agresszív AI rendszertől, de hatalmas költségekkel jár, ami kiválasztása opcióként életképtelenné teszi: egy nagyszabású HEMP leállítaná a társadalom működéséhez szükséges infrastruktúra nagy részét, és tömeges halált okozna az egészségügyi és élelmiszer-rendszerek összeomlása miatt. A HEMP nukleáris háborút is kiválthatna, mivel más országok közvetlen HEMP-re nukleáris ellencsapással vagy megelőző csapással reagálhatnának. Globális internetleállítás: Bár az összes fent vázolt opció megnehezítené az internet használatát, lehet, hogy az emberek számára nehezebbé tennék, mint egy szuperképességekkel rendelkező AI rendszer számára, így csökkentve ezen opciók hatékonyságát. Például a BGP rétegbe való beavatkozás „irreális lehet egy rendkívül képzett tévelygő AI-val szemben, amely könnyen konfigurálhatna új útvonalakat az általa ellenőrzött rendszereken keresztül. Sőt, ez a stratégia tartalmazná, de nem szüntetné meg a tévelygő AI-t”. Hasonlóképpen, a DNS leállítása hasonló kihívásokkal járhatna, mivel egy tévelygő AI „könnyen hozzáférhetne a tárolt DNS rekordokhoz, vagy teljesen megkerülhetné a domain név feloldását”. És az internet infrastruktúra fizikai károsítása lelassíthatná az AI-t, de nem állítaná meg. Speciális eszközök telepítése: Mindkét eszközalapú megközelítés a 'smartness' problémájától szenved – konkrétan, valószínűleg elég okosnak kell lenniük ahhoz, hogy hatékonyan kolonizálják és megtartsák a sajátjukat, vagy közvetlenül harcoljanak egy ellenséges AI ellen. Ez azt jelenti, hogy ahelyett, hogy szűk AI eszközök lennének, vagy emberek építették őket, vagy emberi együttműködésre szorulnak egy összehangolt szuperintelligenciával, amennyire én ki tudom találni. Ez egy kicsit 'deus ex machina'-nak tűnik, és torzítja a lehetőségek/érvelések terét. Lehetnek olyan permutációi, amelyek nem igényelnek teljes szuperintelligenciát, de ezek valószínűtlennek tűnnek.
- Magaslégköri elektromágneses impulzus (HEMP): Atomfegyverek robbantása az űrben elektromágneses impulzusok kiváltására, amelyek „megzavarják vagy megsemmisítik a földi távközlési, energiaellátási és számítástechnikai infrastruktúrát”. Azonban, ha egy széles körben elterjedt AI-val van dolgunk, meglepően nagy léptékben kellene ezt megtenni: „körülbelül 50-100 robbanásra lenne szükség ahhoz, hogy az összefüggő Egyesült Államok nagyságú szárazföldi területet teljesen lefedjék olyan impulzusokkal, amelyek meghaladják a csúcs térerősség 75 százalékát.”
- Globális internetleállítás: Az internetet elosztottra és ellenállóra tervezték, így a leállítása nehéz. De ha akarnánk, néhány különböző opciót használhatnánk: A „Tier 1 hálózatokat” világszerte arra használnánk, hogy koordinálják a BGP prefix bejelentések egyidejű visszavonását, ami szinte az egész internetet elérhetetlenné tenné.
- Célpontként a BGPSec-et, amely az RPKI-ra (Resource Public Key Infrastructure) támaszkodik, amely kriptográfiai hitelességi tanúsítványokat biztosít az útválasztási bejelentésekről. „Az együttműködésük kényszerítése vagy kriptográfiai kulcsaik kompromittálása lehetővé tenné egy támadónak, hogy hamisítsa a frissítési bejelentéseket és ellenőrizze az internetforgalmat a kompromittált AS-ekbe”.
- Az összes DNS gyökérszerver, valamint azok üzemeltetőinek megsemmisítése, ami lehetővé tenné azok leállítását vagy hamis DNS rekordok injektálását. (”Bár kétségtelenül rendkívül nehéz lenne valahogyan egyszerre megszerezni mind a 12 gyökérszerver-üzemeltető operatív irányítását, az Egyesült Államoknak jelentős előnye lehet ebben a tekintetben: Kilenc gyökérszerver-üzemeltető székhelye az USA területén található. A fennmaradó háromból Svédországban, Hollandiában és Japánban található székhely”.
- Fizikailag lekapcsolni az internetet: „Állítom, hogy a teljes internet fizikai lekapcsolása bármilyen ésszerű időtávon egy tévelygő AI elleni küzdelemhez fizikailag lehetetlen lenne. Bármilyen ilyen stratégia összeomlana a különböző típusú kapcsolatok redundanciája miatt”. De lehetséges lenne egy részét károsítani kulcsfontosságú tengeralatti kábelek célba vételével, ezzel jelentősen csökkentve az interneten áthaladó sávszélességet.
- Speciális eszköz AI telepítése: Az AI legyőzésének egyik módja más AI rendszerek felhasználása. Ezek két formát ölthetnek: 1) olyan eszközök, amelyek ugyanazokért a számítási erőforrásokért versenyeznek, mint az AI, és olyan eszközök, amelyek proaktívan eltávolítják az AI-t egy rendszerből. Digitális férgek: Olyan szoftvert építhetünk, amely megpróbálja kihasználni és felhasználni ugyanazokat a számítási erőforrásokat, amelyeket egy AI is akarna. „A tévelygő AI elleni küzdelemre használt digitális férgeket szándékosan úgy terveznék, hogy gyorsan kolonizálják az új számítási környezeteket, és versenyezzenek a tévelygő AI-val a számítási erőforrásokért”. Egy ilyen „digitális féregnek” kiberképességekre lenne szüksége ahhoz, hogy megvesse a lábát a rendszerekben, képesnek kell lennie önmódosításra a különböző környezetekben való kolonizációhoz és versenyhez, és tartalmaznia kell egy vészleállítót, hogy ki tudjuk kapcsolni.
- Vadász/Gyilkos AI: Létrehozhatnánk valamit, aminek az egyetlen célja a tévelygő AI rendszerek felkutatása és elpusztítása. Ehhez ugyanazokra a képességekre lenne szükség, mint a Digitális férgeknek, de valószínűleg hatalmas mennyiségű számítási teljesítményre lenne szükség ahhoz, hogy kellően képes legyen más AI rendszerek ellen harcolni.
Miért fontos?
A tanulmány következtetései elgondolkodtatóak: „A globálisan elterjedt tévelygő AI elleni küzdelem meglévő technikai eszközei nem kínálnak hatékony megoldásokat” – írja a RAND. „Ha nincsenek hatékony megoldásaink egy tévelygő AI által okozott válság megoldására, akkor elengedhetetlen, hogy soha ne találkozzunk ilyen válsággal.” ---