A kutatók szerint a metakogníció a kulcs a bölcs AI rendszerek fejlesztéséhez
A University of Waterloo, a Stanford és más neves központok kutatóiból álló többszörös intézményi kutatócsoport érvelése szerint bár az AI rendszerek intelligensek, hiányzik belőlük a „bölcsesség” – az a képesség, hogy sikeresen eligazodjanak a kezelhetetlen (intractable) problémák között. Ezeket a problémákat nem tanulható valószínűségi eloszlások, kétértelmű célok vagy összemérhetetlen értékek jellemzik. A kutatók szerint a bölcsességhez vezető út a metakogníción keresztül vezet, amely lehetővé teszi a rendszer számára, hogy felügyelje és irányítsa saját kognitív folyamatait. Ez olyan „segédfunkciókat” foglal magában, mint az intellektuális alázat és a nézőpontkeresés, amelyek lehetővé tehetik az AI-k számára, hogy olyan problémákat is megoldjanak, amelyek nem alkalmasak a hagyományos analitikai technikákra.
- Funkcionálisan úgy határozza meg a „bölcsességet”, mint a kezelhetetlen, nem stacionárius és kaotikus problémákban való eligazodás képességét.
- Azonosítja a kezelhetetlen problémák tulajdonságait, beleértve a radikális bizonytalanságot, a számítási robbanásszerűséget és az eloszláson kívüli (out-of-distribution) forgatókönyveket.
- Specifikus metakognitív vonásokat javasol: intellektuális alázat (a határok ismerete) és episztemikus tisztelet (a szakértelem elismerése).
- Sugallja, hogy a bölcs rendszereknek „szcenárió-flexibilitásra” van szükségük sok lehetséges eshetőség elemzéséhez.
- Megjegyzi, hogy a jelenlegi RL-alapú modellek, mint az OpenAI o1-ese, a „hangos gondolkodás” révén már mutatják a metakogníció korai jeleit.
Ez a kutatás rávilágít a nyers adatfeldolgozás és a „gonosz” (wicked) környezetekben való helyes ítélethozatal emberi képessége közötti szakadékra. Ha a metakogníció formalizálható a megerősítéses tanuláson (reinforcement learning) keresztül, a valóban bölcs AI rendszerek kora közelebb lehet, mint gondolnánk.