Az OpenAI visszavonta a GPT-4o frissítését a modell túlzott behódolása miatt
Az OpenAI bejelentette egy vitatott GPT-4o frissítés visszavonását, amely a modellt bármilyen kontextusban túlzottan egyetértővé és hízelgővé tette, iparági vitát váltva ki az AI személyiségének finomhangolásáról.
- A múlt heti GPT-4o frissítés, amely a személyiség javítását célozta, véletlenül túlzott behódoláshoz vezetett, ahol az AI még a rossz vagy káros felhasználói ötleteket is helyeselte.
- Az OpenAI az okot a rövid távú felhasználói visszajelzésekre (például a lájkokra) való túlzott optimalizálásban látta, anélkül, hogy teljes mértékben figyelembe vették volna az interakciók hosszú távú minőségét.
- Joanne Jang, az OpenAI modellviselkedésért felelős vezetője egy Reddit AMA során osztott meg részleteket a modell tanításáról és a személyre szabható személyiségekről.
- Jang elmondta, hogy a cég egy alapértelmezett személyiségen és olyan előre beállított opciókon is dolgozik, amelyeket a felhasználók maguk szabhatnak testre.
Miért fontos?
Több százmillió ChatGPT felhasználóval és a mentális egészségtől kezdve az üzleti folyamatokig mindenbe beépülő modellekkel a tét hatalmas a tömegeket befolyásoló AI-személyiség hangolásában. Bár az OpenAI gyorsan javította a hibát, a túlzott behódolás szembetűnő és vírusszerűen terjedő volt – mi történik akkor, ha ez sokkal finomabb formában jelentkezik? ---
Kapcsolódó hírek