Az Anthropic tervei az önfejlesztő AI-ra vonatkozóan
Az Anthropic újonnan alakult kutatási részlege, az Anthropic Intézet, közzétette hivatalos kutatási programját — egy dokumentumot, amely az AI rendszerek önfejlesztésének lehetőségét olyasminek tekinti, amire a vállalat aktívan készül.
- A TAI az Anthropic-on belül működik, lehetővé téve a kutatók számára, hogy tanulmányozzák a Claude használatát, a belső munkafolyamatokat és a biztonsági jeleket, mielőtt azok szélesebb körben piacra kerülnének.
- Az Intézet programja kiterjed a biztonsági fenyegetésekre, a gazdasági zavarokra, a kormányzásra és az önfejlesztő modellek tervezésére.
- A csapat javasolta hidegháborús stílusú forródrótok létrehozását laborok és kormányok között, valamint „tűzgyakorlat” típusú gyakorlatokat a hirtelen képességnövekedések esetére.
- A TAI kijelentette, hogy elkötelezett a Gazdasági Index adatok, havi munkavállalói felmérések, fenyegetéselemzések, valamint saját belső AI-alapú K+F részleteinek közzététele iránt.
Miért fontos?
Korábban írtunk az Anthropic társalapítója, Jack Clark blogjáról az önfejlesztő rendszerekről, és a TAI kutatási programja ezt nagyon is a középpontba helyezi. Az Anthropic „tűzgyakorlatokról” és hidegháborús típusú rendszerekről szóló beszéde egy „intelligenciarobbanásra” való felkészülés, amely felé sokak által vártnál gyorsabban haladhatunk.
Kapcsolódó hírek