MI Történik?

Jack Clark elmélkedik az AI ökoszisztéma jelenlegi állapotáról, megjegyezve a gyors technológiai fejlődés, a változó politikai párbeszédek és az AI fősodorba kerülésének kombinációját. Ez a konvergencia egy olyan világot teremtett, ahol ugyanazon információk különböző értelmezései radikálisan eltérő következtetésekhez vezetnek a fontosságot és a teendőket illetően. A szerző több bizonytalan területet is megvizsgál, beleértve azt, hogy a fejlesztésnek központosítottnak vagy decentralizáltnak kell-e lennie, a szélsőséges biztonsági beavatkozások etikáját, az elosztott tanítás hatását és a fejlődéshez szükséges heterodox stratégiákat. Aggodalmát fejezi ki a fejlesztők társadalomformáló ereje miatt, és az elosztott, szupererős képességekből fakadó esetleges káosz miatt. Az elkövetkező hónapokban többet fogok írni mind a zavart okozó területekről, mind a bizonytalanságom csökkentését célzó elemzésekről. De azt hiszem, a fő tanulságom az, hogy az AI már kellően „magas energiájúvá” vált ahhoz, hogy veszélyes legyen jóslatokat megfogalmazni arról, hogyan „kellene” az AI-fejlesztésnek zajlania – a legtöbb félelmetes dolog a világon úgy kezdődik, hogy emberek egy kis csoportja eldönti, hogyan „kellene” a dolgoknak működniük. Tisztában vagyok a saját befolyásommal ezen a téren, és ez nyugtalansággal tölt el. Másrészről, akárcsak a politikában, a nem szavazás is politikai tett. Ha nem alakítok ki véleményt arról, hogyan kellene a dolgoknak alakulniuk, akkor alapvetően egy szavazati joggal nem rendelkező szemlélő szerepét öltöm magamra, aki csak kritizálja és kommentálja a körülötte változó világot, miközben furcsán passzív marad annak változásával szemben. Szinte biztosan így van! Ezért úgy gondolom, hogy mindenkinek, akinek módjában áll befolyásolni az AI pályáját, nagy adag félelemmel, alázattal, önkritikával és annak tudatában kell közelítenie ehhez a pillanathoz, hogy az önmagukat erkölcsileg jónak tartó emberek valójában gyakran a morális romlás előidézői.