A SafeBench verseny 250 000 dollárt kínál új AI biztonsági benchmarkokért
A Center for AI Safety (CAIS) létrehozta a SafeBench nevű versenyt, amely díjakkal jutalmazza az AI rendszerek biztonságának értékelésére szolgáló új benchmarkok készítőit. „Összesen 250 000 dollárnyi díjat osztunk ki – öt darab 20 000 dolláros és három darab 50 000 dolláros fődíjat a legjobb benchmarkokért” – írta a szervezet.
Benchmark területek: A SafeBench olyan tulajdonságok mérésére vár benchmarkokat, mint a robusztusság, a monitorozás és az illeszkedés (alignment), valamint a biztonsági alkalmazásokhoz való alkalmasság tesztelése. Dátumok, határidők és zsűri: A verseny már megnyílt, a beküldési határidő 2025. február 25., a nyerteseket pedig 2025 áprilisában hirdetik ki.
- Összesen 250 000 dolláros díjalap, akár 50 000 dolláros egyéni díjakkal.
- Fókuszterületek: robusztusság, monitorozás, alignment és biztonsági alkalmazási alkalmasság.
- Beküldési határidő: 2025. február 25.
- A zsűri tagjai olyan intézményeket képviselnek, mint a CAIS, a Chicagói Egyetem (UChicago), az AI2025 és a Carnegie Mellon Egyetem.
Miért fontos?
Ahogy az olyan szakpolitikai intézmények, mint az amerikai és brit AI Biztonsági Intézetek megkezdik az értékeléseket, az iparágnak továbbra is hiányoznak a standardizált, megbízható módszerek az alignment és a robusztusság mérésére. ---