Az AI úttörői szerint a tapasztalati tanulás a kulcs a szuperintelligencia eléréséhez
Az AI úttörői, David Silver és Richard Sutton helyzetértékelő tanulmányt írtak az AI jövőjéről, amelyben azt állítják, hogy a szuperintelligens rendszerek eléréséhez olyan AI ágensekre lesz szükség, amelyek a világgal való interakció során gyűjtött adatokon alapulva tanulnak, nem pedig ember által válogatott adatkészleteken. „Az AI egy új korszak küszöbén áll, amelyben a tapasztalat válik a fejlődés domináns közegévé, és végső soron eltörpül mellette a mai rendszerekben használt emberi adatok léptéke” – írják a szerzők.
Természetesen a világgal való interakció révén szakértelmet szerző ágensek fejlesztése számos kihívást jelent a biztonság szempontjából. „Bár általános aggályok merülnek fel bármely AI esetleges visszaéléseivel kapcsolatban, fokozott kockázatot jelenthetnek azok az ágensek, amelyek hosszabb időn keresztül autonóm módon képesek interakcióba lépni a világgal hosszú távú célok elérése érdekében” – olvasható a tanulmányban. Az egyik nyugtalanítóbb kockázat az lehet, hogy ezek az AI ágensek saját gyorsírást fejleszthetnek ki a világról való „gondolkodáshoz”, ami sokkal kevésbé értelmezhetővé teheti őket számunkra.
- Az ágensek folyamatos tapasztalati folyamatokban fognak létezni rövid interakciós részletek helyett
- A cselekvések és megfigyelések a környezeti interakcióban gyökereznek majd a puszta párbeszéd helyett
- A jutalmazás a környezeti tapasztalatokból származik majd, nem pedig emberi előítéletekből
- Az ágensek nem emberi nyelveket vagy differenciálható számításokat fejleszthetnek ki a hatékonyabb „gondolkodáshoz”
- Azonosítja a hosszú távú célok elérése érdekében végzett tartós, autonóm interakció kockázatait
A szuperintelligenciára egyre inkább mérnöki kihívásként tekintenek: az ehhez hasonló tanulmányok jól jelzik az AI-iparban tapasztalható magabiztosságot. Ahol a szuperintelligencia valaha egy meghatározhatatlan álom volt, ott mostanra mérnöki erőforrások mozgósításával és egyre képzettebb AI ágensek létrehozásával elérhető célként körvonalazódik. ---