Új könyv érvel amellett, hogy az embernél intelligensebb gépek megépítése az emberi faj pusztulását garantálja

Eliezer Yudkowsky és Nate Soares új könyvet adott ki „If Anyone Builds It, Everyone Dies” (Ha bárki megépíti, mindenki meghal – IABIED) címmel, amelyben amellett érvelnek, hogy az embernél intelligensebb gépek megépítése a történelemnek ezen a pontján az emberi faj pusztulását garantálja. A szerzők szerint a valószínű kimenetel egy olyan szuperintelligencia létrehozása, amely vagy megöli az emberiséget, vagy félresöpri azt. Az egyik alapvető felismerésük, hogy az intelligensebb lényeknek általában szélesebb körű preferenciáik vannak a világgal kapcsolatban, mint a kevésbé intelligenseknek, a kevésbé intelligens entitások pedig nehezen tudják megérteni egy intelligensebb lény preferenciáit. Ezért elsöprően valószínű, hogy egy valóban embernél intelligensebb entitásnak olyan preferenciái lesznek, amelyeket az emberek egyszerűen nem értenek.