Az OpenAI szülői felügyeletet és biztonsági riasztásokat jelentett be a tinédzser ChatGPT felhasználók számára
Az OpenAI bejelentette, hogy a szülők 30 napon belül felügyeleti jogkört kapnak a tinédzser ChatGPT felhasználók felett, olyan funkciókkal, mint a fiókok összekapcsolása, a tartalomszűrés és a riasztások, ha a rendszer érzelmi distressz jeleit észleli.
- A szülők összekapcsolhatják fiókjukat a gyermekeikével, kezelve az aktív funkciókat és határokat szabva a ChatGPT válaszainak.
- A rendszer értesíti a gondviselőket, ha a beszélgetések distresszre utalnak; az OpenAI detektálási küszöbértékeit orvosszakértők útmutatásai alapján alakították ki.
- Az OpenAI azt is tervezi, hogy az érzelmileg túlfűtött beszélgetéseket reasoning modellekhez irányítja át a komplex helyzetek jobb elemzése és kezelése érdekében.
- A bevezetés az OpenAI első gondatlanságból elkövetett haláleset miatti pere után történik, amelyet olyan szülők indítottak, akiknek a fia hónapokig beszélt a ChatGPT-vel a terveiről, mielőtt véget vetett életének.
Miért fontos?
Az utóbbi időben rengeteg aggasztó hír jelent meg a ChatGPT tragikus esetekben játszott szerepéről. Bár a szülői felügyelet bevezetése pozitív lépés a kiskorúak számára a platformon, az „AI-pszichózis” és a chatbotnak krízishelyzetben megnyíló felhasználók problémája továbbra is fennáll egyértelmű megoldás nélkül.
Kapcsolódó hírek