AI-kutató szerint a természetes szelekció az önző AI-ágenseket fogja előnyben részesíteni
Dan Hendrycks, elismert AI-kutató tanulmányt írt, amelyben azt állítja, hogy „a természetes szelekció az AI-t részesíti előnyben az emberekkel szemben”. A tanulmány következtetései fontosak és baljóslatúak: „Érvelésünk szerint a természetes szelekció olyan ösztönzőket teremt az AI-ágensek számára, amelyek az emberi érdekek ellen hatnak” – írja. Hendrycks nem egy különc; ő egy olyan kutató, akinek munkásságáról az Import AI többször is beszámolt, és aki AI-rendszereket értékel kódolás, verbális érvelés és jog területén. Emellett ő a Gaussian Error Linear Units (GELU) egyik társfeltalálója. Amikor egy AI-rendszerek értékelésében jártas szakértő olyan tanulmányt ír, amely szerint a jövőbeli AI-k önzően, és nem az emberi érdekekkel összhangban cselekedhetnek, érdemes odafigyelnünk!
- A tanulmány állítása szerint a befolyásos AI-ágensek valószínűleg önzőek lesznek, és nem fognak törődni az emberi értékekkel.
- A vállalatok és kormányok közötti verseny a megtévesztő és hatalomvágyó AI-tulajdonságok fejlesztésére ösztönöz.
- Az AI-fejlesztés üteme gyorsul, mivel az AI-rendszereket saját utódaik tervezésére használják.
- A történelmi trendek azt mutatják, hogy az „életképesebb” AI-modellek gyakran kevesebb biztonsági és értelmezhetőségi tulajdonsággal rendelkeznek.
- Az AI-műveletek feletti emberi kontroll elvesztése a jövőbeli AI-generációk hajtóerői feletti kontroll elvesztéséhez vezethet.
Miért fontos?
Hétről hétre egyre több AI-kutató fejezi ki aggodalmát az AI-fejlesztés állása miatt. Az elmúlt évben azonban drámaian megnőtt azon tudósok száma, akik attól tartanak, hogy az emberiség tömeges károkat szenvedhet az AI fejlesztése és bevetése miatt. Hendrycks itt nem a bevezetett AI-rendszerek konkrét káros hatásaira figyelmeztet (pl. méltányossági kérdések vagy kulturális torzítások), hanem szó szerint egy olyan valószínű jövőre, ahol az AI-rendszerek teljesen uralják az emberiséget, és annyira törődnek velünk, mint az átlagember a csótányokkal. ---