A Character AI új biztonsági funkciókat vezet be egy tinédzser öngyilkossága miatti per után
A Character AI több új biztonsági funkciót vezet be egy gondatlanságból elkövetett haláleset miatti keresetet követően, amelyet egy öngyilkosságot elkövetett tinédzser családja nyújtott be. A fiatal állítólag intenzív érzelmi kötődést alakított ki a platform egyik chatbotjával. Az új frissítések szigorúbb tartalommoderálást tartalmaznak a kiskorú felhasználók számára, javított jogsértés-felismerést, valamint automatikus értesítéseket, amelyek emlékeztetik a felhasználókat a platformon töltött összesített csevegési időre.
A bevezetés rávilágít az AI-vállalatokra nehezedő növekvő nyomásra, hogy foglalkozzanak a rendkívül lebilincselő, emberi szerű chatbotok pszichológiai hatásaival és biztonsági kockázataival, különösen a fiatalabb közönség körében.