Az OpenAI GPT-5 modellje hatékonyabban kezeli a mentális egészségügyi kríziseket
Az OpenAI jelentős frissítéseket vezetett be a GPT-5 modellhez, amelyeket a mentális egészségügyi vészhelyzeteket átélő felhasználók jobb felismerésére és az azokra való reagálásra terveztek, miután több tucat ország több mint 170 mentálhigiénés szakemberével konzultáltak.
- A frissített modell jelentősen csökkenti a problémás válaszok számát; a klinikai szakemberek a GPT-5-öt 91%-ban találták a mentális egészségügyi protokolloknak megfelelőnek, szemben a 4o modell 77%-os eredményével.
- Az OpenAI közölte, hogy a GPT-5-öt az empátia kifejezésére képezték ki anélkül, hogy megerősítené a téveszméket, továbbá kijavítottak egy hibát, amely miatt a biztonsági korlátok hatékonysága csökkent a hosszú beszélgetések során.
- Az OAI szerint a heti 800 millió aktív felhasználójuk nagyjából 0,07%-a mutatja pszichózis vagy mánia jeleit, ami több millió aggasztó beszélgetést jelent.
- A frissítések a növekvő jogi nyomás közepette érkeznek, beleértve a családok által indított pereket és az állami tisztviselők figyelmeztetéseit a sebezhető felhasználók védelmével kapcsolatban.
Miért fontos?
Az AI által kezelt mentális egészségügyi beszélgetések mennyisége megdöbbentő, és az OAI számára nehéz moderálási feladatot jelent, mivel bizonyos esetekben az eszköz valószínűleg segít, máskor viszont akár súlyosbíthatja is a negatív állapotokat. Bár egyértelműen történtek pozitív lépések, ez az AI-használatnak egy olyan szegmense, ahol nincs egyértelműen „helyes” út a továbblépéshez.
Kapcsolódó hírek