MI Történik?

Elon Musk szerint az AI egzisztenciális fenyegetést jelent az emberiségre. Ezzel szemben a Meta vezető AI tudósa, Yann LeCun „képtelenségnek” nevezi az ilyen félelmeket. Most az OpenAI – a legfejlettebb AI modellek és alkalmazások mögött álló vállalat – új csapatot alapít az AI-hoz kapcsolódó „katasztrofális kockázatok” felmérésére. „A biztonságos AGI megépítésére irányuló küldetésünk részeként komolyan vesszük az AI-val kapcsolatos biztonsági kockázatok teljes spektrumát, a ma létező rendszerektől kezdve a szuperintelligencia legtávolabbi határáig” – írta a vállalat egy blogbejegyzésben. Az OpenAI olyan kérdésekre keresi a választ, mint például mennyire lehetnek veszélyesek a „frontier AI” rendszerek rosszindulatú felhasználás esetén, és hogyan építhetünk védőfalakat ezen fenyegetésekkel szemben. A vállalat a következő kockázati kategóriákat vizsgálja: