A Mechanize startup elindulása vitát váltott ki az AI biztonsági közösségen belül
A múlt héten kutatók egy csoportja bejelentette új AI startupját, a Mechanize-t, amelynek célja „olyan virtuális munkakörnyezetek, benchmarkok és tanítási adatok fejlesztése, amelyek lehetővé teszik a gazdaság teljes automatizálását”. A céget olyan jelentős AI és tech figurák támogatják, mint Nat Friedman, Patrick Collisson és Jeff Dean. Eddig minden a megszokott mederben zajlott. Ami viszont szokatlan volt, az az ellenséges fogadtatás, amit az indulás egyesektől kapott. Általában a Szilícium-völgyben a cégalapítási bejelentéseket kedvesen fogadják, a válaszok a „hajrá, vágjunk bele!” különböző változatai. A Mechanize azonban látványosan más reakciókat váltott ki, valószínűleg azért, mert a hozzá köthető emberek közül sokan az Epoch-tól érkeztek, amely egy független kutató szervezet, amely az AI fejlődését méri és figyeli, ahelyett, hogy közvetlenül képességeket fejlesztene.
- A Mechanize a teljes gazdasági automatizáláshoz szükséges virtuális környezetekre és adatokra összpontosít.
- A támogatók között van Nat Friedman, Patrick Collisson és Jeff Dean.
- Számos neves biztonsági szószóló fejezte ki szomorúságát vagy elárultságát az indulás kapcsán.
- A kritikusok olyan szervezetektől érkeznek, mint a Future of Life Institute, a MIRI és a Pause AI mozgalom.
- A vita alapja az, hogy az alapítók korábban az Epoch-nál, egy kizárólag kutatással foglalkozó szervezetnél töltöttek be szerepet.
Miért fontos?
Az AI fejlesztés tétjének növekedésével úgy tűnik, hogy az AI biztonsági (AI safety) közösségen belül kialakul egy szélsőségesebb frakció, amely radikális nézeteket vall. Sokan az AI biztonság területén úgy vélik, hogy bármi, ami bármilyen mértékben hozzájárul az AI technológia előrehaladásához, veszélyes és rossz a társadalom számára. Ez a fajta nyilvános diskurzus kísértetiesen hasonlít az ideológiai „tisztasági tesztekre”, ahol eldöntik, ki tartozik a belső körhöz és ki nem, majd ennek megfelelően kezelik őket. ---