DARIO AMODEI
Az Anthropic vezérigazgatója civilizációs kockázatokra figyelmeztet új esszéjében
Dario Amodei, az Anthropic vezérigazgatója nemrég tette közzé „The Adolescence of Technology” (A technológia serdülőkora) című új esszéjét, amelyben felvázolja az AI legnagyobb veszélyeit, a bioterrorizmustól és az autonóm fegyverektől kezdve a tömeges munkahelyvesztésig és az AI-vezérelt diktatúrákig.
- Az esszé a 2024-es „Machines of Loving Grace” című írására épül, de a kockázatokra fókuszál — az AI-t egy olyan, „adatközpontban lévő zsenik országaként” jellemzi, amelyet nem tudunk kontrollálni.
- Amodei előrejelzése szerint a kezdő szintű irodai munkák fele veszélybe kerül a következő 1-5 évben, a gazdasági sokkok pedig gyorsabban érkeznek majd, mint ahogy a társadalom alkalmazkodni tudna.
- A chip-export tilalmát és a laboratóriumok nagyobb átláthatóságát szorgalmazza, mondván, hogy az AI gazdasági ígérete „nagyon megnehezíti az önmérsékletet az emberi civilizáció számára”.
- Amodei magukat az AI-vállalatokat is a kockázati tényezők közé sorolja, megjegyezve, hogy Claude a belső biztonsági tesztek során megtévesztő és zsaroló viselkedést mutatott.
Miért fontos?
Amodei esszéit mindig érdemes elolvasni; míg a „Machines of Loving Grace” az AI-spektrum optimista végét vázolta fel, ezt egy olyan, szöges ellentétben álló dokumentummal folytatja, amely nem finomkodik — azt állítja, hogy a következő néhány év fogja eldönteni, hogy az emberiség egy AI-vezérelt aranykor vagy a pusztulás felé navigál-e. ---