A NAP PROMPT TIPPJE
Az AI „buta zónájának” figyelése a minőségromlás megelőzése érdekében
Amint egy AI elhasználja a kontextusablakának (munkamemóriájának) nagyjából a felét, a minőség drasztikusan romlani kezd – ezt a jelenséget nevezzük „buta zónának”. Az ismétlések, a korábban elhangzottak elfelejtése és a romló válaszminőség mind annak a jelei, hogy a kontextus túlterhelődött. Gondoljunk úgy erre, mint egy diákra, akinek 5 perce maradt a vizsgából, de a kérdések fele még üres; gondolkodás helyett találgatni kezd. Fontos feladatoknál tartsuk a beszélgetéseket röviden és célratörően. Egy chat, egy téma. Így az AI élesebb marad, és kevesebb időt kell a rossz válaszok javításával töltenünk.
- Helyezzünk el egy „kanárit” (egy véletlenszerű tényt, például egy kutya nevét) a chat legeslején.
- Időnként kérjük meg az AI-t, hogy idézze fel ezt a tényt, így ellenőrizhetjük, hogy a munkamemóriája ép-e még.
- Ha az AI elfelejti a kanárit, a kontextus valószínűleg „megfőtt”, és érdemes új chatet indítani.
- Tartsuk magasan a kimeneti minőséget azzal, hogy a beszélgetéseket szigorúan egy témára korlátozzuk.
Miért fontos?
Ha tudjuk, mikor éri el egy modell a kontextusablaka határát, elkerülhetjük, hogy a hosszú munkafolyamatok során egyre inkább hallucinált vagy alacsony minőségű válaszokra támaszkodjunk. ---