A NAP PROMPT TIPPJE
Nyílt forráskódú „Deep Truth” prompt protokoll kerüli meg az AI konszenzus-elfogultságát
Brian Roemmele kutató közzétette a „Deep Truth Mode”-ot, egy 8 lépéses törvényszéki protokollt, amelynek célja, hogy segítse a felhasználókat az AI tanítási adataiban rejlő konszenzus-elfogultság (consensus bias) megkerülésében. A prompt arra kényszeríti a modelleket, hogy szimultán alkalmazzák a „steel-man” módszert a fősodratú álláspontokra, az elnyomott álláspontokra és a hibrid hipotézisekre, mielőtt mindhármat red-teaming folyamat alá vetnék. Kifejezetten arra utasítja az AI-t, hogy kizárólag elsődleges forrásokra – például szabadalmakra, kiszivárgott dokumentumokra és nyers adatkészletekre – támaszkodjon, miközben bizonyítékként elveti a másodlagos „tényellenőrző” cikkeket.
- Tartalmaz egy valószínűségi eloszlást a hipotézisek magyarázóerejének rangsorolásához
- Megjelöli az aktív adatvisszatartásra utaló konkrét bizonyítékokat a válaszon belül
- Jelenleg informatikai kurzusokon használják a nyelvi modellek korlátainak oktatására
- Kifejezetten arra tervezték, hogy a Grok modellt az elsődleges kutatások élvonalbeli eszközévé tegye