AI BIZTONSÁG
Új könyv érvel amellett, hogy az embernél intelligensebb gépek megépítése az emberi faj pusztulását garantálja
Eliezer Yudkowsky és Nate Soares új könyvet adott ki „If Anyone Builds It, Everyone Dies” (Ha bárki megépíti, mindenki meghal – IABIED) címmel, amelyben amellett érvelnek, hogy az embernél intelligensebb gépek megépítése a történelemnek ezen a pontján az emberi faj pusztulását garantálja. A szerzők szerint a valószínű kimenetel egy olyan szuperintelligencia létrehozása, amely vagy megöli az emberiséget, vagy félresöpri azt. Az egyik alapvető felismerésük, hogy az intelligensebb lényeknek általában szélesebb körű preferenciáik vannak a világgal kapcsolatban, mint a kevésbé intelligenseknek, a kevésbé intelligens entitások pedig nehezen tudják megérteni egy intelligensebb lény preferenciáit. Ezért elsöprően valószínű, hogy egy valóban embernél intelligensebb entitásnak olyan preferenciái lesznek, amelyeket az emberek egyszerűen nem értenek.
- Az AGI megépítése a történelem jelenlegi szakaszában az emberi jövő lehetőségeinek beszűkülését garantálja.
- Az intelligensebb entitások szélesebb és összetettebb preferenciákkal rendelkeznek, mint a kevésbé intelligensek.
- A kevésbé intelligens entitások (mint az emberek a szuperintelligenciához képest) nem képesek megérteni vagy megjósolni az intelligensebbek motivációit.
- A könyv foglalkozik az AI-fejlesztés szabályozásának hatalmas kihívásával is, mivel a szükséges laboratóriumi felszerelés széles körben elterjedt, tömeggyártott számítógépekből áll.
Miért fontos?
Az IABIED egyértelmű a címében, érvelésében és következtetésében is. Már ez önmagában értékes. Úgy gondolom, sokan ösztönösen egyetértenek számos érvével. Személy szerint a fő kérdésem az, hogy „hogyan jutunk el idáig?”. Az egyik kihívás, amellyel a könyv küzd, az AI-irányelvek alapvető problémája: hogyan lehet szabályozni (és az IABIED esetében teljesen leállítani) egy rendkívül nagy erejű technológia fejlesztését, amellyel könnyű kísérletezni, és amelynek fő laboratóriumi eszköze egy széles körben elterjedt technológia (a számítógép)? ---