AI IRÁNYELVEK
A RAND értékeli a megelőző csapások kockázatait a fejlett AI-ért folytatott versenyben
Vajon a fejlett mesterséges intelligenciáért (AI) folytatott verseny valószínűbbé teszi a háborút?… Igen, ha az emberek hisznek a hatalmas erejű AI-ban. Az AI-irányelvekkel foglalkozó szakemberek egy csapdába estek, amelyet a RAND kutatási dokumentuma szemléletesen illusztrál: vajon jobb-e mélyrehatóan tájékoztatni a döntéshozókat a nagy erejű AI világmegváltó természetéről, vagy jobb inkább nem beszélni erről velük, és remélni, hogy a hatalmas gépek stabilitást teremtenek érkezésükkor? Bár a legtöbben azonnal azt válaszolnák, hogy „őrültség sötétségben tartani az embereket, tájékoztatni kell őket!”, ez nem egy kikezdhetetlen válasz erre a kihívásra. Az „Evaluating the Risks of Preventive Attack in the Race for Advanced AI” (A megelőző támadások kockázatainak értékelése a fejlett AI-ért folytatott versenyben) című tanulmányában a RAND rávilágít erre: megállapításaik szerint „a megelőző támadás esélye akkor a legmagasabb, ha a vezetők úgy vélik, az AGI robbanásszerű növekedést és döntő katonai előnyt fog okozni, különösen, ha gyors változásokra és tartós, az elsőként lépőket megillető előnyökre számítanak az AGI fejlesztése és bevezetése révén.” Más szóval: valószínűbb, hogy támadást indítasz más országok ellen az AGI elérésének megakadályozására, ha te vezetsz, és hiszel abban, hogy a technológia rendkívül erőteljes.
- A megelőző támadások akkor a legvalószínűbbek, ha egy állam a hatalmi egyensúly nagyfokú eltolódására számít, ami sebezhetővé tenné egy ellenséges rivális ragadozó magatartásával szemben.
- A kulcsváltozók közé tartoznak a hatalmi eltolódás jellemzői, a megelőző stratégiák hatékonysága és költségei, valamint a konfliktus elkerülhetetlenségének érzete.
- Ha az AI lassan épül be a gazdaságba és a hadviselésbe, a megelőző támadás kockázata csökken, mivel a nemzetek úgy érzik, van idejük felzárkózni.
- Ha az AI lehetővé teszi a rekurzív önfejlesztést és a katonai erő gyors eltolódását, a megelőző támadások valószínűbbé válnak.
- A reziliencia építése – például szétszórt, megerősített és redundáns adatközpontokba való befektetéssel – költségesebbé és kevésbé valószínűvé teheti a megelőző támadásokat.
Miért fontos?
Ha a vezetők úgy vélik, hogy az AGI fejlesztése döntő és visszavonhatatlan eltolódást hoz a hatalmi egyensúlyban, ami kiszolgáltatja őket a pusztulásukra törekvő ellenségeknek, és ha úgy hiszik, hogy erőszakkal megakadályozhatják ezt az eredményt, miközben elkerülhetik az eszkalációt egy általános háborúig, akkor lehet, hogy megkockáztatják a támadást. ---