Egy vizsgálat szerint a CharacterAI felhasználói engedély nélkül hoznak létre botokat valós személyekről
Egy friss vizsgálat komoly aggályokat vetett fel a CharacterAI háza táján, miután kiderült, hogy a platform felhasználói tömegesen hoznak létre olyan botokat, amelyek valós, élő személyeket utánoznak, mindezt az érintettek engedélye vagy tudta nélkül. Bár az ilyen jellegű tevékenységet a vállalat felhasználási feltételei szigorúan tiltják, a gyakorlatban a rendszer nem képes hatékonyan gátat szabni a visszaéléseknek. Az eset rávilágít az AI startup cégek előtt álló egyik legnagyobb kihívásra: hogyan lehet kontrollálni a felhasználói tartalomgyártást egy olyan környezetben, ahol a technológia bárki számára elérhetővé teszi az identitásmásolást.
A CharacterAI egy rendkívül népszerű platform, amely lehetővé teszi a látogatók számára, hogy egyedi, nagy nyelvi modelleken (LLM) alapuló chatbotokat hozzanak létre és szabjanak testre. A felhasználók különböző személyiségekkel ruházhatják fel ezeket az intelligens ágenseket, hogy aztán interaktív beszélgetéseket folytassanak velük. A most napvilágra került vizsgálat azonban rávilágított a technológia sötét oldalára is. A felületen bárki pillanatok alatt képes lemásolni egy létező ember stílusát, beszédmódját és vélt személyiségét, ami komoly etikai és jogi kérdéseket vet fel az online adatvédelemmel és a személyiségi jogokkal kapcsolatban.
A helyzetet tovább bonyolítja, hogy a CharacterAI belső szabályzata és hivatalos felhasználási feltételei egyértelműen kimondják, hogy valós személyek beleegyezés nélküli rekreálása tiltott tevékenységnek minősül. A gyakorlatban azonban a moderációs szűrők és az automatizált ellenőrzési rendszerek könnyen kijátszhatónak bizonyultak, így a felhasználók szinte akadálytalanul generálhatnak hús-vér emberekről mintázott karaktereket. Ez a kontrollhiány nemcsak a hétköznapi emberek magánéletét veszélyezteti, de a közismert személyiségek és közszereplők lejáratására is alkalmas felületet biztosít, ami jelentős reputációs kockázatot hordoz magában.
A vizsgálat eredményei egyértelműen jelzik, hogy a generatív AI területén tevékenykedő vállalatoknak sokkal szigorúbb és proaktívabb biztonsági intézkedéseket kell bevezetniük. Nem elegendő csupán a felhasználási feltételekben rögzíteni a szabályokat; a startupoknak olyan robusztus technológiai megoldásokat kell fejleszteniük, amelyek valós időben képesek kiszűrni és blokkolni az engedély nélküli identitásmásolást. Amíg a szabályozás és a technikai kontroll nem zárkózik fel a problémához, a CharacterAI és a hozzá hasonló platformok folyamatosan ki lesznek téve a visszaéléseknek, amelyek alááshatják a technológiába vetett társadalmi bizalmat.