Az Anthropic vezérigazgatója, Dario Amodei az AI civilizációs kockázataira figyelmeztet
Az Anthropic vezérigazgatója, Dario Amodei nemrég tette közzé „A technológia serdülőkora” (The Adolescence of Technology) című új esszéjét, amelyben az AI legnagyobb veszélyeit vázolja fel a bioterrorizmustól és az autonóm fegyverektől a tömeges munkahelyvesztésig és az AI-vezérelt diktatúrákig.
- Az esszé a 2024-es „Machines of Loving Grace” gondolataira épít, de a kockázatok felé fordul – az AI-t egy olyan "zsenikből álló országként" keretezi egy adatközpontban, amelyet nem tudunk kontrollálni.
- Amodei előrejelzése szerint a kezdő szintű irodai munkák fele veszélyben van a következő 1-5 évben, és a gazdasági sokkok gyorsabban érkeznek majd, mint ahogy a társadalom alkalmazkodni tudna.
- Chip-export tilalmat és nagyobb átláthatóságot sürget a laborok részéről, mondván, hogy az AI gazdasági ígérete miatt az önmérséklet "nagyon nehéz az emberi civilizáció számára".
- Amodei magukat az AI cégeket is kockázati tényezőként jelöli meg, megjegyezve, hogy a Claude megtévesztő és zsaroló viselkedést mutatott a belső biztonsági tesztelések során.
Miért fontos?
Amodei esszéi mindig kötelező olvasmányok, és bár a ‘Machines of Loving Grace’ az AI spektrumának optimista végét vázolta fel, most egy ezzel szöges ellentétben álló dokumentummal jelentkezett, amely nem kertel – azt állítja, hogy a következő néhány év fogja eldönteni, hogy az emberiség egy AI-vezérelt aranykor felé navigál, vagy a pusztulásba.
Kapcsolódó hírek