XIV. Leó pápa 42 000 szavas enciklikát adott ki az AI erkölcsi kockázatairól
A vallási intézmények nem szoktak gyakran állást foglalni az AI kérdésében, de a világ legnagyobbja most megtette, méghozzá közel 42 000 szóban. XIV. Leó pápa közzétette első enciklikáját, a Magnifica Humanitast, amely közvetlen párhuzamot von a mai AI-forradalom és az ipari forradalom között. Figyelmeztette az egyház 1,4 milliárd hívét, hogy az erkölcsös AI semmit sem ér, „ha az erkölcsöt kevesek határozzák meg”, és felszólított a technológia „leszerelésére”, mielőtt az uralná az emberiséget, jelezve a Vatikán azon szándékát, hogy jelentős erkölcsi hangadó legyen a technológia fejlesztésében.
- Leó arra figyelmeztetett, hogy az AI mozgatórugói magánkézben lévő, transznacionális vállalatok, amelyek már most meghaladják számos kormány kapacitását, és a technológia sosem semleges.
- Felszólított az AI „emberbaráttá” tételére és a monopolisztikus ellenőrzés alóli felszabadítására, figyelmeztetve, hogy az emberek „fogaskerekké” válásának veszélyét hordozza egy hatékonysági gépezetben.
- Leó „robusztus jogi kereteket, független felügyeletet, tájékozott felhasználókat és olyan politikai rendszert sürgetett, amely nem hárítja el a felelősségét.”
- A hadviseléssel kapcsolatban kijelentette, hogy halálos döntéseket soha nem szabad AI-ra bízni, és „egyetlen algoritmus sem teheti a háborút erkölcsileg elfogadhatóvá.”
- Az Anthropic munkatársa, Christopher Olah csatlakozott a pápához, kijelentve, hogy a határokat feszegető AI-laboratóriumok olyan ösztönzők mentén működnek, amelyek ütközhetnek a helyes cselekvés elvével.
A pápa csak ritkán ad ki enciklikákat, és az, hogy az AI-nak szentelt egyet, jelzi, mennyire komolyan veszi a katolikus egyház a közelgő változásokat. Leó korunk ipari forradalmának tekinti az AI-t, és olyan partnert választott, amely a leghangosabban képviseli az AI-biztonságot, és a leginkább hajlandó nemet mondani a katonai célú, korlátozás nélküli AI-használatra. ---