Yoshua Bengio az autonóm ágensek helyett AI tudósokat javasol a biztonság növelése érdekében
Yoshua Bengio AI kutató szerint van egy egyszerű módja az AI előnyeinek kihasználására és a hátrányok minimalizálására – olyan AI tudósokat kell építeni, akik tanácsot adnak az embereknek, ahelyett, hogy önállóan cselekvő AI ágenseket hoznánk létre. „Egy kulcsfontosságú érv, hogy amint az AI rendszerek célokat kapnak – hogy kielégítsék igényeinket –, olyan részcélokat hozhatnak létre, amelyek nincsenek összhangban azzal, amit valójában akarunk, és akár veszélyessé is válhatnak az emberekre” – írja. Ehelyett építhetünk AI tudósokat – olyan rendszereket, amelyek „nem cselekszenek autonóm módon a való világban, csak az elméletalkotásra és a kérdések megválaszolására összpontosítanak”.
Bár Bengio ötlete szép, a probléma alapvetően a végrehajtáson múlik – hogyan akadályozzuk meg az embereket az AI ágensek építésében, mivel a) az emberek tudják, hogy ma már megépíthetőek, és b) az AI ágensek valószínűleg hasznos eszközök lesznek a pénzszerzéshez és/eller a katonai konfliktusokban való sikerhez. Ha meg akarnánk akadályozni ezen rendszerek megépítését, meg kellene tanulnunk országok közötti koordinációt olyan módon, ami sokkal mélyebb a mainál.
- Az AI tudósok csak az elméletalkotásra és a kérdések megválaszolására összpontosítanak a való világbeli cselekvés helyett.
- Az autonóm ágensek hajlamosak olyan nem megfelelően összehangolt részcélok létrehozására, amelyek veszélyesek lehetnek.
- Ennek a megközelítésnek az elsődleges kihívása a nemzetközi koordináció hiánya a pénzszerző vagy katonai ágensek fejlesztésének megállítására.
Miért fontos?
Ami megnyugtató, hogy az AI rövid távú kockázataitól való megvédés szükségessége olyan irányítási keretrendszert hozhat létre, amely jó első lépés az AI feletti kontroll elvesztésének hosszú távú kockázataival szembeni védekezés felé. ---