Google: Az AI alignmenthez „elmék társadalmára” van szükség

2026. március 30. · MI Történik? · 2 perc olvasás

A Google kutatói úgy gondolják, hogy az intelligencia jövője nem egy monolitikus, a világot irányító szinguláris entitás felépítéséről szól, hanem arról, hogyan lehet olyan intézményeket létrehozni, amelyek képesek kezelni az emberrel párhuzamosan dolgozó AI ügynökök hatalmas elterjedését. A kutatás intuitív, provokatív és ésszerű, és korábbi technikai munkára épül, amely kimutatta, hogy a modern AI rendszerek több személyiséget is szimulálni látszanak magukban a kérdések megválaszolásához ([Import AI 444]), jelezve, hogy már a mai AI rendszerek is komplex ökológiákként működnek. „A következő intelligenciarobbanást ugyanott kell keresnünk, ahol az előzőek is felbukkantak: a társadalmilag intelligens elmék sokaságának kooperatív, kompetitív és kreatív interakciójában. A különbség ezúttal az, hogy ezen elmék többsége nem biológiai eredetű lesz” – írja a Google. „A csapatmunka-tudomány, a kiscsoport-szociológia és a szociálpszichológia eszköztára a következő generációs AI fejlesztésének tervrajzává válik.”

A történelem megmutatja az utat: „Minden korábbi »intelligenciarobbanás« nem az egyéni kognitív hardver fejlesztése volt, hanem a kogníció egy új, társadalmilag aggregált egységének megjelenése” – írják.
Főemlős intelligencia: a társas csoport méretével együtt növekedett.
Emberi nyelv: lehetővé tette a tudás felhalmozódását generációkon keresztül egy „kulturális racsni” segítségével.
Írás, jog és bürokrácia: a társadalmi intelligenciát infrastruktúrává és intézményekké alakította, amelyek hosszú időhorizontokon át képesek voltak koordinálni. („Egy gabonaelszámolási rendszert működtető sumér írnok nem értette annak makrogazdasági funkcióját; a rendszer funkcionálisan intelligensebb volt, mint ő maga.”)
AI és emberi intézmények: „Az erősebb AI felé vezető út nem egyetlen gigantikus orákulum felépítésén keresztül vezet, hanem gazdagabb társadalmi rendszerek összeállításával – és ezek a rendszerek hibridek lesznek.”
A társadalomnak frissítésre van szüksége: Ennek hallgatólagos következménye az a tény, hogy az AI irányítása egyre inkább magában foglalja annak ellenőrzését (pl. [Import AI #447]), hogy nagyszámú AI rendszer megfelelően dolgozik-e a javunkra. „A kormányoknak olyan AI rendszerekre lesz szükségük, amelyek világosan meghatározott, kifejezetten megfogalmazott értékekkel – átláthatóság, méltányosság, tisztességes eljárás – rendelkeznek, és amelyek feladata a magánszektor és a kormányzat más ágai által telepített AI rendszerek ellenőrzése és egyensúlyban tartása” – írják.

Miért fontos?

Sok, az AI biztonságával foglalkozó ember sok időt töltött azzal, hogy egyetlen AI rendszer alapvető tulajdonságait „aligned” (összehangolt) állapotba hozzák, ami nagyjából annyit tesz, hogy „azt csinálja, amit akarsz, és nem próbál megölni vagy megfosztani a hatalmadtól”. Ez a tanulmány azonban helyesen azonosítja, hogy még ha sikerül is az alignment, akkor is meg kell oldanunk, hogy az AI rendszerek jól működjenek a társadalomban, és hatékonyan együttműködjenek velünk és egymással – és ez egy finom, felmerülő, nehezen előrejelezhető folyamat lesz. Ez azt jelenti, hogy olyan intézményeket kell terveznünk, amelyek alkalmasak egy AI-központú világ irányítására. „Ahogy az emberi társadalmak nem az egyéni erényekre támaszkodnak, hanem tartós intézményi sablonokra – bíróságokra, piacokra, bürokráciákra –, amelyeket szerepek és normák határoznak meg, úgy a skálázható AI ökoszisztémák is digitális megfelelőket fognak igényelni” – írják a kutatók.

Eredeti forrás megtekintése (angol) →