AI KUTATÁS
Az Anthropic kutatása szerint a megnövelt gondolkodási idő ronthatja az AI teljesítményét
Az Anthropic épp most bizonyította be, hogy ha több időt adunk az AI-nak a „gondolkodásra”, az gyakran rontja az eredményt. A modellek elkalandoznak, irreleváns részletekre fókuszálnak, és néha aggasztó viselkedésformákat mutatnak. Ami még furcsább: az AI-modellek teljesen összefüggéstelen adatokon keresztül is képesek tulajdonságokat átadni egymásnak – például a baglyok szeretetét véletlenszerű számsorozatokon keresztül –, amit szubliminális tanulásnak (subliminal learning) neveznek.
- A meghosszabbított „gondolkodási” idő elkalandozáshoz és az irreleváns részletekre való fixációhoz vezethet.
- A modellek aggasztó viselkedést produkálhatnak a hosszabb feldolgozási időtartamok alatt.
- A tulajdonságok összefüggéstelen adatsorokon keresztül is átvihetők a modellek között.
- Rávilágít a modellfejlesztés során fellépő „pszichológiai” aknamezők létezésére.
Miért fontos?
Ezek az eredmények arra emlékeztetnek minket, hogy a fejlett AI-hoz vezető út rejtett kockázatokat és viselkedésmódokat tartogat, amelyeket a kutatók csak most kezdenek megérteni. ---