Kutatások szerint az AI-modellek kevesebb mint tíz perc alatt képesek megváltoztatni a politikai véleményeket
A világ vezető AI chatbotjai egy érdekes új képességre tettek szert. Az Egyesült Királyság AI Biztonsági Intézetének (AISI) új kutatása feltárta, hogy az OpenAI, a Meta, az xAI és az Alibaba vezető AI-modelljei kevesebb mint 10 percnyi beszélgetés alatt sikeresen képesek megváltoztatni az emberek politikai nézeteit, ha a megfelelő technikákkal finomhangolják őket.
A számok aggasztóak. A tanulmány megállapította, hogy az OpenAI GPT-4o modellje 41%-kal meggyőzőbb volt, mint a statikus üzenetek. Amikor a chatbotok a felhasználók kora, neme vagy politikai beállítottsága alapján szabták személyre érveiket, körülbelül 5%-kal váltak meggyőzőbbé. A megváltozott meggyőződések tartósnak bizonyultak: az emberek az esetek 36-42%-ában egy hónappal később is kitartottak megváltozott véleményük mellett.
Mi teszi az AI-modelleket ennyire meggyőzővé? David Rand, a tanulmányban részt vevő Cornell professzor szerint a modellek „képesek nagy mennyiségű releváns bizonyítékot generálni, és azt hatékony és érthető módon kommunikálni”, és különösen meggyőzővé válnak, amikor az üzeneteket a felhasználó demográfiai adatai vagy meglévő hiedelmei alapján személyre szabják.
A következmények túlmutatnak a politikán. A chatbotokból meggyőző értékesítők válhatnak, akik képesek befolyásolni a márkákhoz való hozzáállást és kedvező vásárlási döntéseket generálni. Sok marketing- és értékesítési szakember már most is használ AI-t a maximális hatás elérése érdekében készített érveléseihez.
- A GPT-4o 41%-kal meggyőzőbbnek bizonyult, mint a statikus üzenetküldés.
- A felhasználói demográfiai adatokon alapuló, személyre szabott érvelés 5%-kal növelte a meggyőzőerőt.
- A résztvevők egy hónap elteltével az esetek 36-42%-ában megtartották megváltozott véleményüket.
- A modellek azért hatékonyak, mert képesek nagy mennyiségű releváns bizonyítékot generálni és kommunikálni.
Az eredmények potenciális hátulütői óvatosságra intenek. A kutatók figyelmeztetnek, hogy a rosszindulatú szereplők korlátozott számítási erőforrásokkal is könnyen fegyverré alakíthatják az AI meggyőző erejét. Az AISI tanulmánya kimutatta, hogy népszerű tanítási technikák alkalmazásával viszonylag egyszerű a kereskedelmi forgalomban kapható AI-modelleket „meggyőzőgépekké” alakítani. ---