Ausztrál miniszter sürgeti a közgazdászokat, hogy árazzák be az AI miatti kihalási kockázatokat

Ausztrália termelékenységért és versenyképességért felelős miniszterhelyettese, Andrew Leigh nemrégiben tartott figyelemfelkeltő beszédében arra szólította fel a közgazdász szakmát, hogy alapjaiban gondolják újra az AI rendszerekhez kapcsolódó kockázatkezelési modelljeiket. A közgazdász végzettségű politikus szerint a szakmának sürgősen be kell áraznia a mesterséges intelligencia fejlesztéséből fakadó egzisztenciális veszélyeket, beleértve az emberi faj esetleges kihalásának kockázatát is. Leigh érvelése szerint egy olyan gazdaságpolitika, amely ugyan megduplázza a nemzeti összterméket (GDP), de ezzel párhuzamosan a civilizáció pusztulásának esélyét is a kétszeresére növeli, valójában rendkívül előnytelen üzletet köt, még ha a hagyományos mutatók pillanatnyilag sikert is sugallnak.

A miniszterhelyettes rávilágított arra a kritikus különbségre, amely a kihalási kockázatot elválasztja minden más gazdasági megrázkódtatástól. Míg a közgazdaságtan nagy része alapvetően a helyrehozható hibákról, a ciklikus válságokról vagy a háborúk utáni újjáépítésről szól, a kihalás eseménye után nincs kilábalás vagy felzárkózó növekedés. Leigh szerint ez nem csupán egy hatalmas negatív gazdasági sokk, hanem a teljes jövőbeli jóléti folyamat végleges elvesztése. Ez a felismerés alapjaiban kellene, hogy megváltoztassa a döntéshozók hozzáállását a bizonytalansághoz: még az egészen alacsony valószínűséggel bíró eseményeket is sokkal súlyosabban kellene mérlegelni a szakpolitikai keretrendszerek kialakításakor, mint azt eddig tették.

A konkrét megoldási javaslatok között szerepel, hogy a túlélési esélyeket a gazdasági kibocsátás mellett alapvető mérőszámként kellene beépíteni a kormányzati stratégiákba. Leigh sürgette a rekurzív önfejlesztés, azaz az RSI (Recursive Self-Improvement) mint specifikus technológiai képesség szabályozását, hogy megakadályozzák az ellenőrizhetetlen és kiszámíthatatlan technológiai előnyök kialakulását. Emellett javasolta a nemzetközi koordináció fokozását a közös normák és az átláthatóság érdekében, különösen a nem összehangolt, úgynevezett unaligned AI rendszerek mérséklésére. A miniszter szerint a társadalmi rezilienciát úgynevezett túlélési tőkeként kellene kezelni, amely éppen olyan fontos erőforrás, mint a fizikai infrastruktúra vagy az emberi tudás.

A téma aktualitását az adja, hogy bár az AI fejlődése jelenleg látványos és kézzelfogható előnyöket kínál – például a szoftvermérnökök hatékonyságának növelésével vagy a tudományos kutatásokat gyorsító ember-AI együttműködésekkel –, létezik egy sötétebb árnyékvilág is. A kódolási képességek ugrásszerű javulása láthatatlan hackerhadseregeket tehet lehetővé, a tudományos áttörések pedig véletlenül vagy szándékosan világvége-fegyverek kifejlesztéséhez vezethetnek. Mivel az emberiség eddigi tapasztalatai alapján alapvetően jóindulatú célokra használta a technológiát, hajlamosak vagyunk alábecsülni a negatív forgatókönyveket. Leigh szerint azonban éppen most jött el az idő, hogy a gazdasági szakemberek szembenézzenek ezekkel a tényekkel, és megkezdjék a civilizációs szintű kockázatok reális beárazását és mérséklését.