Az Open Philanthropy 40 millió dolláros pályázatot hirdet technikai AI biztonsági kutatásokra
Az Open Philanthropy új ajánlattételi felhívást (RFP) tett közzé AI biztonsággal kapcsolatos kutatásokra, amelyre a következő öt hónapban nagyjából 40 millió dollárt tervez költeni. A transzformatív AI közeledtével a szervezet olyan nagy hatású technikai kutatásokat kíván felgyorsítani, amelyek javítják az AI-rendszerek megértését és kontrollálhatóságát. A támogatások jellemzően 100 000 és 5 millió dollár között mozognak, és felhasználhatók kutatási költségekre, konkrét projektekre vagy új kutatóintézetek alapítására.
- Az RFP 21 konkrét kutatási területet vázol fel, öt fő kategóriába csoportosítva.
- A legfontosabb területek közé tartozik az adversarial machine learning, a modell transzparencia és az alignment faking (igazodás színlelése).
- A finanszírozás támogatja a ritka helytelen viselkedések white-box becslését és a jellemző-reprezentációk feltárását.
- A jelentkezéseket 2025. április 15-ig várják.
- Az Open Philanthropy nyitott azon kutatók felé, akik világos jövőképet tudnak felmutatni, függetlenül a hagyományos akadémiai végzettségüktől.
A jó ötletek bárhonnan származhatnak, és az Open Philanthropy megközelítése lehetővé teszi, hogy sokféle ember és szervezet részesüljön finanszírozásban. Ez a kezdeményezés segít szélesíteni a biztonsági kutatások területét egy olyan időszakban, amikor az AI képességei rohamtempóban skálázódnak. ---