A Reddit titkos AI-meggyőzési kísérletet leplezett le a Zürichi Egyetem kutatóitól
A Reddit feltárta, hogy a Zürichi Egyetem kutatói engedély nélküli AI-kísérletet végeztek az r/changemyview közösségben, chatbotokat használva kényes témákról szóló vitákban a meggyőzési képességek tesztelésére.
- A kutatók több mint 1700 hozzászólásban használtak AI-válaszokat, ahol a botok különféle identitásokat vettek fel, például traumát túlélőket vagy tanácsadókat szimulálva.
- Egy külön AI-rendszert használtak a felhasználók posztolási előzményeinek elemzésére, hogy személyes adatokat (életkor, nem, politikai nézetek) gyűjtsenek a célzott válaszokhoz.
- A kísérlet eredményei – bár még nem mentek át szakmai bírálaton – azt mutatták, hogy a célzott AI-válaszok hatszor meggyőzőbbek voltak, mint egy átlagos emberi hozzászólás.
- A Reddit jogi igazgatója jogi lépéseket jelentett be a kutatók ellen, a kísérletet erkölcsi és jogi szinten is mélységesen elítélendőnek nevezve.
- A Zürichi Egyetem leállította a kutatási eredmények közzétételét, és belső vizsgálatot indított.
Miért fontos?
Az etikai vétkektől eltekintve, az a tény, hogy ezek az AI által generált hozzászólások észrevétlenek maradtak és jelentős támogatást kaptak, rávilágít arra, milyen könnyen befolyásolhatják a közbeszédet az összehangolt botok. Bár a közösségi médiának már korábban is volt ilyen problémája, az AI drasztikusan skálázni fogja a kifinomult manipulációs taktikák minőségét és mennyiségét is.
Kapcsolódó hírek
Tudj meg többet