Kutatások a fokozatos emberi hatalomvesztésre figyelmeztetnek az AI-igazítás megoldása ellenére is
Egy gondolatébresztő tanulmányban kutatók amellett érvelnek, hogy nehéz lesz fenntartani az emberi kontrollt a világ felett, ha biztonságos és erős AI-t építünk, mert nagy a valószínűsége annak, hogy az AI fokozatosan megfosztja az embereket a hatalmuktól. Ezt azáltal érheti el, hogy lassanként átveszi az irányítást a gazdaság, a kultúra és a világ rendjét biztosító kormányzati rendszerek felett. A tanulmány szerint az AI képességeinek még a kis lépésekben történő javulása is alááshatja az emberi befolyást a társadalom alapjául szolgáló nagyléptékű rendszerekben.
- Gazdasági hatalomvesztés: Az ösztönzők az AI fejlesztése felé tolódnak, ami már a teljes automatizáció előtt lassítja az emberi tőke képződését.
- Kulturális hatalomvesztés: Az AI rendszerek egyre több tartalmat állítanak elő, és végül a kulturális alkotások elsődleges fogyasztóivá válhatnak.
- Politikai hatalomvesztés: Az AI átveheti az emberi szerepet a kritikus állami funkciókban, gyengítve a demokráciát és a civil részvételt.
- Az AI és a biztonsági szervek összefonódása politikai stagnáláshoz vezethet a tiltakozások megelőző leállítása révén.
Ha el akarjuk kerülni ezeket a kimeneteleket, biztosítanunk kell a változások nyomon követhetőségét – például az AI technológia használata és a gazdasági tevékenység közötti kapcsolat szorosabb figyelésével, valamint annak megfigyelésével, hogyan változnak a kulturális átadási minták az AI által generált tartalmak és az AI-fogyasztó ágensek terjedésével. ---