AI SZABÁLYOZÁS
Amerikai szabályozók és politikusok vettek részt egy AI gyorstalpalón a Stanford Egyetemen
Múlt héten több tucat amerikai szabályozó és politikus gyűlt össze a Stanfordon egy AI gyorstalpalóra, hogy rájöjjenek, hogyan kezeljék a mesterséges intelligenciát. Eddig az USA megragadt a „tanulási” fázisban a „cselekvés” helyett, de kezdik végre összeszedni magukat. Az elsődleges cél az USA védelme. De ez az egyszerűbb rész. A nehéz feladat az AI menedzselése... az USA-n belül. Itt a deepfake-ekre, a szerzői jogi szabványokra és a szuperintelligens AI-ra (azaz az AGI-ra... azaz potenciálisan a világ végére?!) utalunk.
- Biden javaslatot tett a kínai technológiai vállalatokba – köztük az AI cégekbe – történő amerikai befektetések betiltására.
- Csapata elindította az „AI Cyber Challenge”-et, 20 millió dolláros díjazással olyan AI-megoldásokért, amelyek az amerikai nemzetbiztonságot védik.
Miért fontos?
A Fehér Ház a hétvégén apró lépéseket tett azzal, hogy hozzájárult a DEF CON konferenciához, ahol hackerek ezrei próbálták megtalálni az OpenAI, az Anthropic és mások AI modelljeinek gyenge pontjait. Ez a folyamat „red-teaming” néven is ismert. A kíváncsiak kedvéért: egy nemrégiben készült tanulmány 6387 promptot tesztelt, és kettőt talált, amely következetesen ráveszi az AI-t olyan kérdések megválaszolására, amelyeket nem kellene. ---