ANTHROPIC
Kalifornia kompromisszumot köt a jelentős AI-biztonsági törvényjavaslat kapcsán az iparági ellenállás után
Kalifornia SB 1047 jelű, az AI-katasztrófák megelőzését célzó szigorú biztonsági törvényjavaslatát jelentősen módosították, hogy kezeljék az olyan AI-cégek, mint az Anthropic, valamint az open-source fejlesztők által megfogalmazott aggályokat.
- A törvényjavaslat már nem teszi lehetővé Kalifornia főügyésze számára, hogy gondatlan biztonsági gyakorlatok miatt pereljen be AI-cégeket még egy katasztrofális esemény bekövetkezte előtt.
- Az AI-laboroknak mostantól csak nyilvános „nyilatkozatokat” kell benyújtaniuk biztonsági gyakorlataikról, szemben a korábbi, „hamis tanúzás terhe melletti” igazolásokkal.
- Hasonlóképpen, a fejlesztőknek immár „észszerű gondosságot” (reasonable care) kell tanúsítaniuk az „észszerű bizonyosság” (reasonable assurance) helyett azzal kapcsolatban, hogy az AI-modellek nem hordoznak jelentős kockázatokat.
- A törvényjavaslat a kaliforniai közgyűlés elé kerül végső szavazásra.
Miért fontos?
Vékony határvonal húzódik a technológiai fejlődés előmozdítása és a potenciális egzisztenciális kockázatok mérséklése között, amin a kormányoknak egyensúlyozniuk kell – Kalifornia pedig megmutatja, hogy a szabályozás lehet gyakorlatias és alkalmazkodó. Ezek a változtatások nagy lépést jelentenek a felelősségteljes AI-fejlesztés felé a kollaboratív kormányzás révén. ---