A Turing-díjas Yoshua Bengio vázolja a fejlett AI kockázatait
Yoshua Bengio Turing-díjas tudós, a jelenlegi AI-bumm egyik úgynevezett „keresztapja”. Kollégájához, Geoffrey Hintonhoz hasonlóan ő is egyre inkább aggódik a fejlett AI-rendszerek képességei miatt, és elkezdett nyilvánosan is beszélni félelmeiről. Egy új blogbejegyzésében megpróbál választ adni azokra az érvekre, amelyek szerint nem kellene komolyan venni az AI-biztonságot.
- Jelenleg nincs tudomásunk arról, hogyan lehetne elérni, hogy az AGI/ASI erkölcsösen vagy a fejlesztők szándékai szerint viselkedjen.
- Biztosítani kell, hogy egyetlen entitás (ember, vállalat vagy kormány) se élhessen vissza az AGI hatalmával.
- Az AGI tudományos alapelveit már felfedezhették, ami hatalmas tőkét vonz.
- Kérdéses, hogy a szabadon megosztott AGI-tudás globálisan biztonságos-e, párhuzamot vonva a veszélyes vírusok DNS-szekvenciáival.
Miért fontos?
Sokan hajlamosak kritizálni azokat, akik az AI-biztonságon dolgoznak, irreális vészmadárnak vagy reménytelen pesszimistának bélyegezve őket. De az olyan emberek, mint Yoshua Bengio, szívüket-lelküket kitették a neurális hálózatok fejlesztéséért akkor, amikor mindenki azt hitte, hogy ez egy hasznavehetetlen mellékvágány – és most, látva munkájuk gyümölcsét, rendkívül különösnek tűnik, hogy Bengio és Hinton inkább félnek, mint ünnepelnek. Ezt jelzésnek kell tekintenünk, hogy olvassuk el, amit mondanak, és kezeljük aggodalmukat őszinte forrásként.