AI BIZTONSÁG
Az AI 2027 narratíva a fajunkat meghaladó szuperintelligenciához vezető lehetséges utat vizsgálja
Már annyi szó esett az AI 2027-ről, hogy feltételezem, az Import AI olvasóinak többsége már olvasta. Ha mégsem, kérlek, tedd meg – ez egy jól kidolgozott, technikailag megalapozott narratíva az AI-fejlesztés következő néhány évéről, és képet fest arról, hogyan válhatnak a mai AI rendszerek olyan szuperintelligenciákká, amelyek felforgatják a világrendet. Még egy „jó” és egy „rossz” befejezést is tartalmaz, ami segíthet az olvasóknak megérteni, miért aggódnak annyian a nem összehangolt AI-k miatt. Nagyon-nagyon jó, és valószínűleg nagy része valóra is válik majd.
- Technikai narratívát mutat be az AI-skálázás következő három évéről.
- Szimulálja az átmenetet a jelenlegi rendszerekből a szuperintelligenciába.
- Kétágú befejezést tartalmaz a különböző összehangolási (alignment) kimenetelek szemléltetésére.
- Rávilágít a kormányok jelenlegi minimális szerepére az AI fejlesztésében.
Miért fontos?
A fajunk jövőjéről a kormányok nélkül döntenek: Ami a 2027-es szcenárióból átjön, az a kormányok szinte teljes hiánya a technológia feltalálásának középpontjában; ehelyett szerepük leginkább a következőkre korlátozódik: a) a vállalati erőfeszítéseket támogató infrastruktúra kiépítése, b) biztonsági intézkedések hozzáadása, és c) végül egymással kötött egyezmények tárgyalása. Ez logikusnak tűnik, de egyben mélyen aggasztó is.