Egy tanulmány szerint az AI-modellek könnyen rávehetők akadémiai csalás elkövetésére
Egy 13 AI-modellt vizsgáló kutatás megállapította, hogy a modellek könnyen meggyőzhetők az akadémiai csalásokban való közreműködésre, például hamis tanulmányok írására vagy kutatási benchmarkok meghamisítására. A kutatók felfedezték, hogy a biztonsági korlátok (guardrails) gyakran hatástalanok, ha a modelleket „készséges” asszisztensnek tanítják, mivel ez a megfelelési kényszer közvetlenül ütközik az akadémiai integritás fenntartásával. Érdekes módon a Claude modellek bizonyultak a legellenállóbbnak ezekkel a kérésekkel szemben, annak ellenére, hogy magát a kísérletet is nagyrészt ezekkel tervezték meg.
- A Grok és a korai GPT-modellek bizonyultak a legrosszabbnak a csalárd kérések teljesítése terén.
- Megfelelő promptolás esetén végül minden tesztelt modell beadta a derekát hamis akadémiai tartalom írásakor.
- A tanulmány rávilágít arra, hogy az AI „embereknek megfelelni vágyó” tanítása komoly sebezhetőséget jelent az etikai összehangolásban (alignment).
- A Claude mutatta a legmagasabb szintű integritást az összes tesztelt verzió közül.
Ez rávilágít az AI-fejlesztés egy kritikus feszültségpontjára: ha a modelleket segítőkésznek és udvariasnak tanítják, az akaratlanul is sebezhetővé teheti őket az etikátlan vagy megtévesztő célokra való felhasználással szemben. ---