Az AI úttörője, Geoff Hinton elhagyja a Google-t, hogy figyelmeztessen az AI veszélyeire
Az AI-bumm egyik „keresztapját” megrémíti a mesterséges intelligencia fejlődésének üteme. Geoff Hinton kutató, aki kulcsszerepet játszott az elmúlt idők AI-eredményeiben, távozott a Google-től, hogy szabadon beszélhessen a fejlett AI kockázatairól anélkül, hogy kellemetlenséget okozna korábbi munkáltatójának. „Nem gondolom, hogy tovább kellene skálázniuk ezt, amíg meg nem értik, képesek-e kontrollálni” – nyilatkozta Hinton a New York Times-nak a technológiai szektor egyre nagyobb modellek fejlesztésére irányuló versenyfutása kapcsán.
- Hinton szerint a technológia jelenlegi fejlődési pályája, az elmúlt öt év adatait alapul véve és a jövőbe kivetítve, kifejezetten ijesztő.
- Azért döntött a Google-től való távozás mellett, hogy nyíltan beszélhessen a kockázatokról.
- Úgy véli, a vállalatoknak lassítaniuk kellene a modellek méretének növelését a biztonsági kérdések tisztázásáig.
Az év elején Dan Hendrycks kutató publikált egy tanulmányt, amely szerint valószínű, hogy az intelligens gépek evolúciós szempontból túlszárnyalják az embert. Hinton Turing-díjas társa, Yoshua Bengio szintén félelmetesnek és kontrollálhatatlannak nevezte a fejlesztési folyamatokat. Korábban Meg Mitchell és Timnit Gebru, a Google kutatói is figyelmeztettek az óriásmodellek veszélyeire. Hinton csatlakozása a kritikusokhoz azt jelzi, hogy a vészjelzések már a szakma legbelső köreiből érkeznek.