MI Történik?

Ha egy aszteroida éppen összeütközni készülne a Földdel, mit tennének a világ országai a koordináció érdekében? Ezt a kutatási kérdést tette fel a Universidad de Belgrano, az Osztrák Űrfórum és a mexikói Instituto Nacional de Astrofisica kutatócsoportja egy nemrégiben az Acta Astronautica folyóiratban megjelent tanulmányban. A tanulmány mind a témája, mind az AI-irányelvekkel való kapcsolata miatt érdekes: elvégre nem kísértetiesen hasonló a potenciálisan nem megfelelően összehangolt szuperintelligencia néhány éven belüli érkezésének problémája egy potenciális bolygógyilkos aszteroidáéhoz, amely egy évtized múlva érkezik meg? Ha egy 500 méternél nagyobb átmérőjű aszteroida 2036-ban érkezne meg, és 1% esélye lenne a bolygóval való ütközésre, milyen lépéseket tennénk 2023-ban? A legnagyobb kockázatot a döntések halogatása jelenti: Az aszteroida-szcenárió szerint a fő veszélyt az jelenti, hogy a politikusok tologatják a felelősséget maguk előtt, és halogatják a pénzköltést vagy a törvények módosítását, amelyek csökkentenék az aszteroida-becsapódás valószínűségét. Egy másik kockázat, hogy alábecsülik a veszélyt. „Amíg ezt a kockázatot a napi gondjainktól távolinak látjuk, nagyon nehéz lesz akár hazai, akár globális szinten olyan vészhelyzeti terveket mérlegelni, amelyek előre kezelnék a problémát” – írják. Ezeknek a tanulságoknak az alkalmazása az AGI-ra: E tanulmány alapján milyen intézkedéseket tehetnénk ma a „mesterséges általános intelligencia” (AGI) közeledő potenciális aszteroidájának kezelésére? Íme néhány ötlet: Hozzunk létre egy nemzetközi munkacsoportot, amely kapcsolódik a nemzeti intézményekhez, és amelynek feladata az „AGI-felkészülés és a kockázatcsökkentés”. Már korai életkortól kezdve oktassuk az embereket a potenciális kockázatokról és az AGI-val kapcsolatos tudományokról. Világosan mutassuk be egy potenciális AGI képességeit és ártalmait, és kapcsoljuk ezeket a jelenkori rendszerekhez; nehezebb úgy tenni, mintha az aszteroida hamis lenne, ha egy darabját elhozzuk a jelenbe.