AI KUTATÁS
A Forethought előrejelzése szerint az AI K+F automatizációja szoftveres intelligenciarobbanáshoz vezethet
A Forethought AI kutatási szervezet kutatói úgy vélik, valószínű, hogy a modern AI kutatás olyan AI rendszereket eredményez majd, amelyek képesek lesznek saját utódaik megépítésére. A Forethought arra számít, hogy a jövő egy pontján lehetővé válik az AI K+F automatizálására szolgáló AI rendszerek (ASARA) megépítése. Ez hatalmas hatással bírna: „Az empirikus bizonyítékok azt sugallják, hogy ha az AI automatizálja az AI kutatást, a visszacsatolási hurkok legyőzhetik a csökkenő hozam elvét, jelentősen felgyorsítva az AI fejlődését” – írják. Ez egy „szoftveres intelligenciarobbanáshoz” vezethet, ahol az AI kutatás rendkívül gyorssá válik. „Ha bekövetkezne egy szoftveres intelligenciarobbanás, az hihetetlenül gyors AI fejlődéshez vezethetne, ami szükségessé tenné erős szakpolitikai és technikai korlátok előzetes kidolgozását és bevezetését…. hamarosan az ASARA után a fejlődés arra a pontra gyorsulhatna, ahol az AI szoftverek képessége néhány naponta vagy még gyorsabban duplázódna (szemben a mai néhány havi duplázódással).”
Vannak bizonyítékok arra, hogy ez már ma is történik: ebben a hírlevélben számos „prekurzor-ASARA” kutatásról számoltam már be, az olyan AI rendszerektől kezdve, amelyek képesek jobb kerneleket írni, az új architektúrákat felfedező AI-kon át az új optimalizálókat tanuló rendszerekig. Amikor a Forethought kutatói áttekintik a rendelkezésre álló szakirodalmat, hasonló trendet látnak – a számítógépes látástól a nagy nyelvi modellekig a fejlődés összességében gyorsulni látszik, részben azért, mert a kutatók egyre jobban használják az AI rendszereket az utódrendszerek fejlesztésének felgyorsítására. „Az AI szoftverek hatékonysága (mind a futásidejű, mind a tanítási hatékonyság) körülbelül 6 havonta duplázódik, jelentős bizonytalanság mellett” – írják.
- Az AI szoftverek hatékonysága jelenleg körülbelül 6 havonta duplázódik.
- A szoftveres visszacsatolási hurkok legyőzhetik a csökkenő hozam elvét a fejlődés jelentős felgyorsítása érdekében.
- Az ASARA potenciálisan oda vezethet, hogy az AI szoftverek képességei néhány naponta duplázódnak.
- A prekurzor-ASARA bizonyítékai már léteznek a kerneleket optimalizáló és új architektúrákat felfedező rendszerekben.
- A kutatók javasolják a szoftveres fejlődés mérését és az eredmények közzétételét harmadik felek számára.
- A vállalatoknak olyan küszöbszinteket kellene alkalmazniuk az AI-vezérelt gyorsulásra, amelyek specifikus óvintézkedéseket váltanak ki.
Miért fontos?
Az intuícióm azt sugallja, hogy lehetségesnek kell lennie az AI K+F kutatás automatizálásának, bár azzal a fenntartással, hogy ez elsősorban a jelenlegi AI kutatás „fejlődési kúpján” belül értendő. Azért gondolom ezt, mert az AI furcsán alkalmas a kutatási automatizációra, mivel számos kiegészítő tulajdonsággal rendelkezik: szoftverben zajlik, így nagyon gyors ciklusban működik; az AI építésének módja alkalmas több gyors K+F hurok futtatására; az AI rendszerek egyre inkább használhatók „ágensként”; és az AI rendszerek által elvégezhető feladatok összetettsége folyamatosan nő. Ha az ASARA megvalósulna, egy eleve gyorsan mozgó és nagyrészt kormányozhatatlan technológiai terület még sokkal gyorsabbá válna. ---