Miért távoznak az OpenAI biztonsági vezetői?

Vezetők folyamatosan váltanak munkahelyet. De amikor az a személy távozik, akinek az a feladata, hogy megakadályozza a világ egyik legerősebb AI rendszerének öntudatra ébredését és elszabadulását... az joggal veti fel a szemöldököt a kívülállók körében.

Körülbelül tíz év után az OpenAI társalapítója és vezető kutatója, Ilya Sutskever a múlt héten bejelentette távozását. Sutskever PhD-hallgatóként a Torontói Egyetemen végzett munkája segített alapjaiban meghatározni a generatív AI területét. Ám nem kevésbé fontos, hogy tavaly ő indította el az OpenAI superalignment csapatát is.

A csoport célja annak biztosítása, hogy miközben az OpenAI teljes gőzzel halad a mesterséges általános intelligencia (AGI) felé – ami az a pont, amikor az AI a legtöbb feladatban jobb lesz az embernél –, ez a küldetés ne vezessen véletlenül „az emberiség hatalomvesztéséhez vagy akár az emberi faj kihalásához”.

Ez egy trükkös egyensúly: az OpenAI azért akar szuperintelligens rendszert építeni, mert hiszi, hogy ő a legalkalmasabb a technológia gondos kezelésére. Más cégek ugyanígy vélekednek saját AI-kezdeményezéseikről. Ez a verseny ösztönözheti az innovációt, de oda is vezethet, hogy az AI-cégek túl gyorsan dobnak piacra új termékeket – még akkor is, ha az óvatosabb megközelítés biztonságosabb lenne.

Ellenérv: Az OpenAI elismerést érdemel, amiért nyíltan beszél a potenciális kockázatokról, és milliókat fektet be azért, hogy ezek a veszélyek ne váljanak valóra – amit sok más AI-cég vonakodik megtenni. Emellett ma már egyre könnyebb a nulláról modellt építeni akár egy alagsorban is. Az OpenAI támogatói szerint sokkal jobb, ha egy jó szándékú vállalat fejleszt ki egy potenciálisan veszélyes technológiát, mint valaki, akinek rosszindulatú céljai vannak.