Demis Hassabis mesterséges általános intelligencia (AGI) szabványügyi testületet és kiadás előtti tesztelést sürget.
Demis Hassabis, a Google DeepMind vezérigazgatója szerint a mesterséges általános intelligencia, vagyis az AGI elérése már csak néhány évre lehet tőlünk. A technológiai szektor egyik legmeghatározóbb vezetője komoly aggodalmainak adott hangot a fejlesztések sebességével és azok biztonsági kockázataival kapcsolatban, ezért sürgős lépéseket szorgalmaz. Hassabis egy, az Egyesült Államok vezetésével létrehozandó, független szabványügyi testület felállítását javasolja, amelynek feladata az lenne, hogy a legfejlettebb AI modelleket alapos vizsgálatnak vesse alá, még azok széles körű, nyilvános kiadása előtt.
A javaslat értelmében a technológiai laboratóriumoknak önkéntes alapon kellene megosztaniuk a fejlesztés alatt álló rendszereiket a hatóságokkal harminc nappal a tervezett publikálás előtt. Ez az időkeret lehetővé tenné az illetékes szakemberek számára, hogy szigorú teszteket végezzenek el a modelleken, különös tekintettel a kiberbiztonsági fenyegetésekre, a lehetséges biológiai kockázatokra, valamint az AI által esetlegesen alkalmazott megtévesztő viselkedésmintákra. Bár a rendszer kezdetben az önkéntes együttműködésre épülne, a hosszú távú cél egy olyan kötelező érvényű engedélyezési eljárás bevezetése, amely garantálná, hogy csak a megfelelően ellenőrzött és biztonságosnak minősített modellek válhassanak elérhetővé a felhasználók számára.
Ez a kezdeményezés rendkívül fontos mérföldkő az AI fejlesztés szabályozásának folyamatában. Ahogy az LLM és egyéb generatív modellek képességei rohamosan bővülnek, a kockázatok is exponenciálisan nőnek, ezért az iparági szereplők felelősségvállalása kulcsfontosságúvá vált. A szakmai közösségben komoly vita zajlik arról, hogyan lehetne az innovációt úgy ösztönözni, hogy közben az emberiség számára veszélyes forgatókönyveket is elkerüljük. Hassabis javaslata egy olyan proaktív keretrendszert vázol fel, amely a biztonságot helyezi az első helyre a technológiai fejlődéssel szemben, megelőzve azokat a visszafordíthatatlan károkat, amelyeket egy nem megfelelően tesztelt, nagy teljesítményű rendszer okozhatna. A javasolt ellenőrzési mechanizmus egyúttal a bizalmat is erősítheti a nyilvánosság és a szabályozó hatóságok szemében, ami elengedhetetlen az AI technológiák széles körű társadalmi elfogadásához.