AI IRÁNYÍTÁS
A Mechanize startup indulása heves vitákat és belső viszályt váltott ki az AI-biztonsági közösségen belül
Múlt héten kutatók bejelentettek egy új AI startupot, a Mechanize-t, amely „virtuális munkakörnyezetek, benchmarkok és oktatási adatok fejlesztésére összpontosít, amelyek lehetővé teszik a gazdaság teljes automatizálását”. A startupot olyan jelentős AI és technológiai alakok támogatják, mint Nat Friedman, Patrick Collisson és Jeff Dean. Eddig minden a szokásos módon zajlott. Ami viszont szokatlan volt, az az ellenséges fogadtatás, amit az indulás kapott egyesektől.
Typically, company formation announcements in Silicon Valley are treated kindly with people responding with variations of 'hell yeah, let's fucking gooooo!'. De a Mechanize határozottan más választ kapott, valószínűleg azért, mert a hozzá köthető emberek közül sokan az Epoch-tól érkeztek, amely egy független kutató szervezet, amely az AI fejlődését méri és figyeli, ahelyett, hogy közvetlenül képességeket fejlesztene.
- A gazdaság teljes automatizálását szolgáló virtuális munkakörnyezetekre és adatokra összpontosít.
- Az alapítók között az Epoch nevű AI-kutató szervezet korábbi tagjai is szerepelnek.
- Nyilvános elítéléssel szembesültek a Future of Life Institute, a MIRI és a Pause AI vezetői részéről.
- A kritikusok „árulásnak” tekintik a vállalkozást, amely felgyorsítja az emberi munkaerő kiváltását.
Miért fontos?
Ahogy az AI-fejlesztés tétje nő, úgy tűnik, az AI-biztonsági közösségen belül egy szélsőségesebb frakció alakul ki, amelyet a „szilárd vélemények, határozottan képviselve” szemlélet jellemez. Ez a fajta nyilvános diskurzus hasonlít az „ideológiai tisztasági tesztekre”, ahol eldöntik, ki tartozik a csoporthoz és ki nem – ez ritkán vezet produktív eredményekhez, és tovább ösztönzi a széthúzást. ---