Szakpolitikai dilemmák a rövid és hosszú AI idővonalak és az intézményi felkészültség kapcsán
Jack Clark az olyan AI irányelvek melletti érvelés belső konfliktusáról beszél, amelyek függetlenül attól hasznosak, hogy milyen gyorsan érkezik meg a nagy teljesítményű AI. Kiemeli a jelenlegi „megbánásmentes” (no regret) lépéseket, mint az értékelési ökoszisztémák kiépítése és a gazdaság monitorozása, de aggódik, hogy ezek elégtelenek lehetnek, ha a nagy teljesítményű rendszerek 2026-ra vagy 2027-re megérkeznek. Nagyon rövid idővonalak esetén szerinte drasztikusabb és potenciálisan „megbánható” lépésekre lehet szükség, mint például a laboratóriumi biztonság radikális növelése vagy a bevetés előtti, harmadik fél általi kötelező tesztelés. Ezek a döntések nehéz kompromisszumokat jelentenek a biztonság és az intézményi ellenállás kiváltásának vagy a technológiai fejlődés lassításának kockázata között.
- A jelenlegi „megbánásmentes” lépések közé tartozik a mérési ökoszisztémák kiépítése és az AI-vezérelt gazdasági változások figyelése.
- A rövid időtávú intézkedések közé tartozhat a laborbiztonság rendkívül szigorúvá tétele a hackelés vagy a belső fenyegetések megelőzésére.
- A bevetés előtti, harmadik fél általi kötelező tesztelés egy magas súrlódással járó opció, amely jelentős iparági ellenállást kockáztat.
- A kockázatok dramatizálása a döntéshozók felé segíthet a figyelem felkeltésében, de a „farkast kiáltó fiú” effektushoz vezethet, ha a veszélyek nem realizálódnak.
- A közösségnek egyensúlyoznia kell az átláthatóság és az „információs veszélyek” (information hazards) között, amikor a technológia konkrét visszaéléseiről beszélnek.
A szerző érvelése szerint a jelenlegi szakpolitikai megközelítések alkalmatlanok lehetnek a gyors AI fejlődés kezelésére. Ezen kompromisszumok nehézségének elismerése elengedhetetlen ahhoz, hogy ésszerű válaszokat adjunk az AI fejlődése által felvetett beláthatatlanul hatalmas kérdésekre. ---