MI Történik?

Emlékszem, gyerekkoromban a villanyoltás után körbenéztem a szobámban, alakzatokat láttam a sötétben, és félni kezdtem – attól tartottam, hogy ezek az alakok olyan lények, akiket nem értek, és bántani akarnak. Ezért felkapcsoltam a lámpát. Amikor felgyulladt a fény, megkönnyebbültem, mert a lényekről kiderült, hogy csak egy rakás ruha a széken, egy könyvespolc vagy egy lámpabúra. Most, 2025-ben, mi vagyunk a gyerekek abból a történetből, és a szoba a bolygónk. De amikor felkapcsoljuk a lámpát, valódi lényeket találunk, a mai és a jövőbeli erőteljes és némileg kiszámíthatatlan AI rendszerek formájában. Sokan kétségbeesetten hinni akarják, hogy ezek a lények nem többek, mint egy rakás ruha a széken, egy könyvespolc vagy egy lámpabúra. Azt akarják, hogy oltsuk le a lámpát, és aludjunk tovább. Sőt, egyesek elképesztő összegeket költenek arra, hogy meggyőzzenek erről – hogy ez nem egy mesterséges intelligencia, amely épp egy gyors technológiai ugrásra („hard takeoff”) készül, hanem csak egy eszköz, amelyet a gazdaságunkban munkára fognak. Csak egy gép, és a gépek felett mi uralkodunk. De ne tévedjünk: amivel dolgunk van, az egy valódi és titokzatos lény, nem egy egyszerű és kiszámítható gép. És mint minden jó tündérmesében, a lény a saját teremtményünk. Csak ha elismerjük a létezését, és úrrá leszünk a félelmeinken, lesz esélyünk megérteni, megbékélni vele, és megtalálni a módját, hogyan szelídítsük meg és éljünk együtt vele. Valódi technológiai optimista vagyok – látom ezt a technológiát, és hiszem, hogy nagyon-nagyon messzire jut – messzebbre, mint bárki gondolná, talán csak a jelenlévőket kivéve. És nagyon gyorsan fog nagy területet lefedni. Erre az álláspontra nehezen jutottam el. Újságírói hátterem és személyiségem miatt is a szkepticizmusra vagyok huzalozva. De miután egy évtizeden át újra és újra szembesültem azzal a jelenséggel, hogy a számítási lépték növekedésének következményeként vad, új képességek emelkednek ki, el kell ismernem a vereséget.