MI Történik?

Vitalik Buterin, az Ethereum kriptovaluta társalapítója, terjedelmes bejegyzést írt az AI-val és az AI-biztonsággal (AI safety) kapcsolatos gondolatairól. Ebben az alapos írásban végiggondolja az AI eredendő kihívásait, küzd a politikai gazdaságtan különböző kérdéseivel, és felvázol egy jövőképet. Azt sugallja, hogy az AI-ra egy új típusú elmeként kell tekinteni, amely gyorsan fejlődik intelligenciában, és komoly esélye van annak, hogy lehagyja az emberi mentális képességeket, és a bolygó új csúcsfajává váljon. Ahelyett, hogy ész nélkül gyorsítanánk a technológiai fejlődést (accelerationism) vagy a világkormányzás irányába mozdulnánk el, Vitalik szerint olyan dolgokat kellene tennünk, amelyek egy demokratikusabb világot hoznak létre és tartanak fenn, elkerülve a centralizációt mint alapértelmezett megoldást. A gyakorlatban ez a fizikai fenyegetések (pl. pandémiák) és az információs fenyegetések (pl. dezinformáció vagy AI-generált botok) elleni védekezésre és rugalmas ellenállásra (resilience) szolgáló rendszerek kiépítését jelenti. Megjegyzi továbbá, hogy elegendő idő és elég olcsó számítási kapacitás mellett valószínű, hogy egy transzformatív és potenciálisan veszélyes AI egyszerűen csak kiesik majd valakinek a laptopon futó kutatási projektjéből. Ezért fel kell készülnünk az ambiciózus ember-számítógép együttműködési módokra. Az agy-számítógép interfészek mellett idővel akár a saját tudatunkat is fel akarhatjuk tölteni a gépbe, hogy biztosítsuk az emberek érdemi cselekvőképességének megőrzését.