OPENAI
Szenátorok követelnek választ az OpenAI biztonsági gyakorlataival kapcsolatban
Öt amerikai szenátor levelet küldött az OpenAI vezérigazgatójának, Sam Altmannak, amelyben részleteket követelnek a vállalat AI-biztonság érdekében tett erőfeszítéseiről, miután jelentések érkeztek a GPT-4 Omni elkapkodott biztonsági teszteléséről.
- A szenátorok megkérdőjelezik az OpenAI biztonsági protokolljait, hivatkozva azokra a hírekre, miszerint a cég siettette a GPT-4 Omni biztonsági tesztjeit a májusi megjelenési határidő betartása érdekében.
- A levélben kérik az OpenAI-t, hogy tegye elérhetővé következő alapmodelljét az amerikai kormányzati szervek számára tesztelés, felülvizsgálat és elemzés céljából.
- A törvényhozók rákérdeztek, hogy az OpenAI tartja-e magát a 2023 júliusában tett ígéretéhez, miszerint a számítási erőforrások 20%-át az AI-biztonsági kutatásokra fordítják (ezt az azóta feloszlatott „Superalignment” csapat bejelentésekor ígérték meg).
Miért fontos?
Az elkapkodott biztonsági tesztekkel, a visszaéléseket jelentők elleni esetleges megtorlásokkal és a „Superalignment” csapat feloszlatásával kapcsolatos vádak miatt az OpenAI intenzív ellenőrzés alatt áll. Ez a levél kritikus pillanatot jelent az egész AI-iparág számára is – szigorúbb kormányzati felügyelethez és új iparági szabványokhoz vezethet. ---