MESTERSÉGES SZUPERINTELLIGENCIA
Nyílt levél követeli a szuperintelligencia fejlesztésének leállítását
A technológiai és politikai élet közismert alakjai aláírták a Future of Life Institute levelét, amelyben követelik, hogy a kormányok tiltsák meg a szuperintelligencia fejlesztését, amíg be nem bizonyosodik, hogy kontrollálható, és a közvélemény jóvá nem hagyja a létrehozását.
- A levél olyan aggályokat sorol fel, mint az „emberi gazdasági elavulás”, a „szabadság, a polgári jogok, a méltóság és a kontroll elvesztése”, valamint a „lehetséges emberi kihalás”.
- Az OpenAI, a Google, az Anthropic, az xAI és a Meta vezetői nem szerepeltek az aláírók között, bár az OAI jelenlegi munkatársa, Leo Gao ott volt a feliratkozók között.
- A szervezet adatokat is közölt, melyek szerint az amerikaiak 64%-a leállítaná az ASI fejlesztését, amíg a biztonsága nem bizonyított, és mindössze 5% preferálná a szabályozatlan előrelépést.
- Az aláírók között szerepelnek az „AI keresztapjai”, Yoshua Bengio és Geoffrey Hinton, az Apple társalapítója, Steve Wozniak, valamint a Virgin alapítója, Richard Branson.
Miért fontos?
Ez nem az első nyilvános fellépés az AI felgyorsulása ellen, de a hangok egyre erősebbnek tűnnek. Azonban mivel a vezető laborok látványosan hiányoznak, és még mindig homályos, mit jelentene a fejlesztés „leállítása”, vagy hogyan definiálják pontosan az ASI-t, ez a kezdeményezés lehet, hogy több nyilvánosságot kap, mint amennyi valódi hatást kivált. ---