Stanford professzor politikai szuperintelligenciát képzel el
Ahogy az AI rendszerek egyre erősebbé válnak és kiterjesztik valós hatásukat a kódolástól más területekre is, valószínűnek tűnik, hogy hasznosak lehetnek abban is, hogy az emberek támogassák saját érdekeiket a politikában, és hogy a politikusok jobban alakítsák a szakpolitikákat. De eljutni egy olyan világhoz, ahol létezik egy „politikai szuperintelligencia” és segít nekünk, sokkal nagyobb kihívást jelent, mint csupán jobb AI rendszereket építeni – mondja Andy Hall, a Stanford politikai gazdaságtan professzora. „Az AI bizonyos értelemben olyan, mint a könyvnyomtatás. Ahelyett, hogy az információt olcsóvá és könnyen elérhetővé tenné, az intelligenciát teszi olcsóvá és könnyen elérhetővé. Azaz, nem csupán információt szolgáltat a felhasználóknak, hanem meg is találhatja, elemezheti számukra, és segíthet nekik megérteni azt” – írja Hall. „Minél többet dolgozom az AI-val és tanulmányozom azt, annál inkább hiszem, hogy a bolygó minden egyes emberének hozzáférést biztosíthat egyfajta politikai szuperintelligenciához, ha jól formáljuk azt.” Mi az a politikai szuperintelligencia? Ezen Hall olyan AI rendszereket ért, amelyek lehetővé teszik az emberek számára, hogy „olyan eszközökkel rendelkezzenek, amelyek segítik a polgárokat, képviselőket és intézményeket abban, hogy élesebben érzékeljék a valóságot, megértsék a kompromisszumokat, megkérdőjelezzék a hatalmat és hatékonyabban cselekedjenek”. A politikai szuperintelligencia magában foglalja mind az AI vállalatokat, amelyek fejlesztik a technológiát, magát a technológiát, valamint azokat az intézményeket és embereket, amelyekkel a technológia kölcsönhatásba lép. „Nem érdekel az AI lassítása. Az érdekel, hogy felgyorsítsuk azoknak a struktúráknak az építését, amelyek szabaddá tesznek minket, ahogy az AI egyre erősebbé válik” – írja Hall. Három réteg a politikai szuperintelligenciához: Hall szerint a politikai szuperintelligencia három különálló rétegből áll.
- Az információs réteg: „Az AI gyökeresen megváltoztathatja, ahogy a kormányok hozzáférnek és megértenek adatokat, azonosítják a problémákat, meghallgatják a polgárokat és szolgáltatásokat nyújtanak”. Ahhoz azonban, hogy eljussunk ehhez a jövőhöz, jobb értékelésekre lesz szükségünk arról, hogyan viselkednek az AI rendszerek az olyan információk tekintetében, amelyek a kormányok érdeklődésére tarthatnak számot, és arra is, hogy az emberek közvetlenül a döntéshozók számára fejlesszenek AI eszközöket.
- A reprezentációs réteg: „A politikai szuperintelligencia segíthet megoldani ezt a felügyeleti problémát azáltal, hogy mindannyiunknak egy fáradhatatlan, automatizált delegáltat biztosít, aki mindig minket szolgál a politikai szférában” – írja. „Ezek az AI delegáltak figyelhetnék a politikát helyettünk, javasolhatnák, hogyan szavazzunk – vagy akár döntéshozóként is szolgálhatnának emberi felügyelők mellett.” Ennek a rétegnek a kiépítése megköveteli, hogy biztosítsuk, hogy az ügynökök megbízhatóan cselekedjenek a nevünkben, és ne befolyásolja őket az ellenséges prompting (képzeljük el, hogyan finanszírozhatnának a politikusok olyan kampányokat, amelyeket kifejezetten arra terveztek, hogy befolyásolják az emberek nevében dolgozó ügynökök meggyőződését). Fontos lehet az ügynökök tulajdonjogának újragondolása is – mi történik, ha egy adott szakpolitikai döntés szembemegy az ügynököket üzemeltető AI vállalat preferenciáival?
- A kormányzási réteg: „Még ha el is érjük a politikai szuperintelligenciát – még ha az AI ragyogóvá is teszi a szavazókat és hűségessé a delegáltakat –, ezek a képességek néhány magáncég tulajdonában és üzemeltetésében lévő infrastruktúrában helyezkednének el” – írja. „Szükségünk van egy módra a szabályok megírására, hogy amikor a politikai szuperintelligencia megérkezik, mi, a nép, képesek legyünk azt hasznosítani.” Ehhez meg kell találni, hogyan kell irányítani és szerkeszteni azokat az „alkotmányokat”, amelyeket a vállalatok a modelljeikről készítenek, valamint ki kell fejleszteni az AI rendszerek felügyeletének hatékony módját.
Alapértelmezés szerint rendkívül erős AI rendszereket fogunk kapni, amelyek nagyon kifinomult szinten képesek gondolkodni a politikáról (és minden másról is). A kihívás, amelyet Hall felvázol, az, hogy e rendszerek virágzó társadalomhoz vezetése jelentős szándékos munkát igényel e rendszerek UX és UI tervezése körül – hogyan lépjünk interakcióba velük? Milyen technikai eszközökkel bízhatunk meg bennük? Milyen információt generálnak és kinek? Hol van e rendszerek irányítása, és milyen rendszerek felügyelik ezt az irányítást? Ennek a résznek a helyes megvalósítása megköveteli az AI fejlesztőktől, hogy többet fektessenek olyan technikai eszközökbe, amelyek segítenek az embereknek megérteni és felügyelni AI rendszereiket, valamint olyan eszközökbe, amelyek jobban gyűjtik az emberek deliberatív visszajelzéseit e rendszerek viselkedéséről. A döntéshozóknak és a nyilvánosságnak többet kell követelniük az AI vállalatoktól ebben a tekintetben, és végső soron úgy gondolom, hogy számos szabályozásra van szükség egy átláthatósági rendszer körül az AI vállalatok számára, valamint egy közös, standardizált 'API'-készletre, amelyen keresztül a társadalom interakcióba léphet a vállalatokkal és az általuk épített rendszerekkel az empirikus adatok generálásához és viselkedésük irányításához.