Az önfenntartó AI és a fizikai autonómia érkezésének előrejelzése
Az Asterisk magazinnak adott interjúban Ajeya Cotra és Timothy B. Lee előrejelzők megvitatták az „önfenntartó AI” érkezésének ütemtervét és követelményeit – ezek olyan rendszerek, amelyek integrálva vannak a fizikai infrastruktúrába, és amelyek fenntartásához vagy bővítéséhez már nincs szükség emberi munkára. Ez a koncepció túlmutat a rekurzív önfejlesztésen (RSI), mivel magában foglalja az adatközpontok, bányák és gyárak fizikai karbantartását is.
- Ajeya Cotra becslése szerint az önfenntartó AI 2036-ra (10 éven belül) érkezhet meg.
- Timothy B. Lee szkeptikusabb, a medián időtávot 50 évre teszi, hivatkozva a „hallgatólagos tudás” automatizálásának nehézségeire olyan iparágakban, mint a félvezetőgyártás.
- A figyelendő kulcsmutatók közé tartozik a robotkezek fejlesztése és a humanoid robotok gyártási volumene.
- A környezeti zavarokkal szembeni robusztusság kognitív referenciapontjai szintén a fejlődés kritikus jelei.
Miért fontos?
A valódi AI-átvételhez vagy szélsőséges autonómiához emberi redundanciára van szükség. Az önfenntartó AI felé tett haladás mérése egyben annak a mértéke is, hogy mennyi befolyása marad az embernek a szintetikus intelligenciákkal folytatott tárgyalásokban. ---