Drexler: Intézményeket építsünk az intelligencia irányítására, ne egyedi AI entitásokat
- Ne egy egyedi entitásként gondoljunk az AI-ra, hanem inkább egy ökológiaként: „Az összetett, többkomponensű AI rendszerek váltak dominánssá” – írja Drexler. „A kitartó, örökölt narratíva egy egyesített entitást – „az AI-t” – képzel el, amely integrált ügynökként tanul, cselekszik és célokat követ. Lehet, hogy ilyen entitások is kifejlesztésre kerülnek, de vegyük figyelembe, mi létezik: különféle modellek rendszerekbe komponálva, gépek között másolva, ezernyi különböző szerepkörré és konfigurációvá terjedve. A state of the art egy erőforráskészlet, nem egy lény”.
- A jó eredmények eléréséhez gondoljunk az AI-hoz épített intézményekre: Drexler érvelése szerint, ha jó eredményeket akarunk elérni az AI-val, akkor nem annyira egy olyan egyedi entitás létrehozásáról van szó, amely önmagában old meg minden problémát, hanem inkább olyan intézmények felépítéséről, amelyeket mi, emberek, irányíthatunk a problémák ellenőrzésére és megoldására. A kulcsgondolat itt az, hogy az AI képes működtetni az intézményeket, és rajtuk keresztül irányítható is. „Gondoljuk át, hogyan kezelnek az intézmények ambiciózus vállalkozásokat. A tervezőcsoportok alternatívákat generálnak; a döntéshozók összehasonlítanak és választanak; az operatív egységek korlátozott feladatokat hajtanak végre meghatározott hatókörrel és költségvetéssel; a monitoring felszínre hozza a problémákat; a tervek az eredmények alapján módosulnak. Senki sem ért mindent, és egyetlen egyesített ügynök sem irányítja az egészet, mégis ember által épített űrhajók érik el a Holdat” – írja Drexler. „Az AI természetesen illeszkedik. A tervek generálása feladat a versengő generatív modellek számára – több rendszer javasol alternatívákat, versengve a jobb opciók és élesebb kritikák kidolgozásáért. A tervek közötti választás feladat az emberek számára, akiket AI rendszerek tanácsolnak, amelyek azonosítják a problémákat és tisztázzák a kompromisszumokat. A végrehajtás korlátozott feladatokra bomlik, amelyeket szakosodott rendszerek végeznek, meghatározott hatáskörrel és erőforrásokkal. Az értékelés visszajelzést ad mind az eszközök, mind a célok felülvizsgálatához. És minden szerepben az AI viselkedése stabilabb, átláthatóbb, korlátozottabb és irányíthatóbb lehet, mint az embereké, személyes céljaikkal és ambícióikkal. Több bizalom indokolt, mégis kevesebb szükséges.”
Az ehhez hasonló érvek az AI-val kapcsolatos problémák nagy részét az egyedi AI rendszerekről áthelyezik arra, hogyan építsünk egy emberközpontú világot, amelyet az egyre erősebb AI rendszerek megjelenése révén ki lehet használni és virágozhat. Szerintem sok ebben az észszerűség – tudjuk, hogy nagyon erős dolgok jönnek, és az a képességünk, hogy befolyást gyakoroljunk rájuk, megnő azáltal, hogy előre elkészített rendszerekkel és folyamatokkal rendelkezünk, amelyeket fel lehet használni. Minél kevesebbet építünk ezekből a dolgokból, annál inkább az AI rendszerek jellege fogja meghatározni a nézetünket arról, hogy mi az optimális teendő. Bizonyos értelemben, az AI-val teli világ elképzelése és az ahhoz szükséges intézmények kiépítése az egyik legjobb védelem az elgyengülés ellen. Fontos, hogy az AI rendszerek alapvető technikai jellemzőit felhasználhatjuk jobb, erősebb és ellenállóbb intézmények létrehozására, mint amilyenek csupán emberekkel telve és emberek által működtetve lennének: „A strukturált átláthatóság és a védekező stabilitás fogalmai lépnek előtérbe. A tárgyalt átláthatósági struktúrák képesek felfedni specifikus információkat, miközben titkokat védenek – biztosítva a fenyegetések észlelését anélkül, hogy növelnék azokat, fokozatosan építve a bizalmat olyan szereplők között, akiknek minden okuk megvan a bizalmatlanságra” – írja Drexler. „És a fejlett implementációs kapacitás olyasmit tesz lehetővé, amit a történelem még nem látott: ellenőrizhetően védekező rendszerek gyors, összehangolt telepítését olyan léptékben, ami értelmetlenné teszi a támadást. Amikor a védelem dominál, és az ellenőrzés megerősíti ezt, a biztonsági dilemma lazul.”