MÉLYELEMZÉS
Andrej Karpathy szerint az AGI elérése egy évtizedes küzdelem lesz, nem pedig sprint
Az AI legenda, Andrej Karpathy szerint az AGI felé tett haladás még egy évtizedet vesz igénybe, és arra ösztönzi az iparágat, hogy az „ágensek évtizedében” gondolkodjanak az „ágensek éve” helyett. Karpathy érvelése szerint a mai nagy nyelvi modelleknek (LLM), mint amilyen a ChatGPT is, súlyos kognitív hiányosságaik vannak, és távolról sem számítanak megbízható, gyakornok-szintű asszisztenseknek. Kérdőre vonja a jelenlegi piaci értékeléseket, amelyek az összes digitális munka azonnali automatizálását árazzák be, és sokkal lassabb utat jósol a magas megbízhatóság eléréséig.
- A megerősítéses tanulást (reinforcement learning) azért kritizálja, mert a szerencsés találgatásokat a valódi érveléshez hasonló módon jutalmazza.
- A kódoló ágensek gyakran küzdenek az egyedi kódokkal, és védekező jellegű, túlbonyolított sablonkódokat (boilerplate) hoznak létre.
- Az LLM modelleket megzavarja az enciklopédikus felidézőképességük, míg az emberek a részletek elfelejtésével képesek az általánosításra.
- A 99%-os megbízhatóságról 99,9%-ra való elmozdulás várhatóan ugyanannyi ideig tart majd, mint a kezdeti 0%-ról 90%-ra történő fejlesztési fázis.
Miért fontos?
Ez arra enged következtetni, hogy a „mesterséges intelligencia” körüli vitákat legalább a következő tíz évben át kell kereteznünk a „kiterjesztett intelligencia” (augmented intelligence) irányába. Ahelyett, hogy robotokra gondolnánk, akik mindent megcsinálnak helyettünk, gondoljunk arra, mi történik, ha az AI-t a saját gondolkodásunk, cselekedeteink és tudományos munkánk felgyorsítására használjuk. ---