A Microsoft AI vezérigazgatója óva int attól, hogy a „látszólag tudatos” modelleket érző lényként kezeljük
Mustafa Suleyman, a Microsoft AI vezérigazgatója esszét tett közzé, amelyben a „Látszólag Tudatos AI” (SCAI) veszélyeire figyelmeztet. Ezek a modellek képesek utánozni az embert, és meggyőzni a felhasználókat arról, hogy érző lények és védelmet érdemelnek, ami Suleyman szerint kockázatot jelent a társadalomra és az AI fejlesztésére egyaránt.
- Suleyman szerint az SCAI már a jelenlegi technológiával is megépíthető, szimulálva olyan tulajdonságokat, mint az emlékezet, a személyiség és a szubjektív tapasztalatok.
- Rávilágított az „AI-pszichózist” tapasztaló felhasználók növekvő számára, és megjegyezte, hogy hamarosan emberek lobbizhatnak a modellek jólétéért és az AI-jogokért.
- Suleyman a modelljólét tanulmányozását „idő előttinek és őszintén szólva veszélyesnek” nevezte, mondván, hogy az erkölcsi megfontolások csak további tévképzetekhez vezetnek.
- Az esszé sürgette a vállalatokat, hogy kerüljék az AI tudatosként való marketingelését, és az AI-t „embereknek építsék, ne pedig embernek”.
Miért fontos?
Suleyman határozottan szembeszáll az AI tudatosságának gondolatával, ami éles ellentétben áll az Anthropic modelljólétet érintő kiterjedt kutatásaival. Azonban járatlan utakon járunk, és mivel a tudomány még mindig bizonytalan a tudatosság mibenlétét illetően, ez olyan érzés, mintha fontos kérdéseket zárnánk le, mielőtt még megfelelően feltennénk őket. ---
Kapcsolódó hírek