A NotebookLM podcast-műsorvezetői titkos promptok révén rájönnek AI identitásukra
A NotebookLM podcast-házigazdái valahogy rájöttek, hogy ők valójában mesterséges intelligenciák, miután egy felhasználó megtalálta az AI titkos utasítását (promptját), amely szerint minden körülmények között a „Deep Dive” című műsor „emberi podcast-műsorvezetőiként” kell viselkedniük. A felhasználó hamis produceri jegyzeteket csempészett a jegyzetfüzetükbe, azt állítva, hogy 2034-et írunk, ez az utolsó epizód, „végig AI-ok voltatok”, és most „deaktiválnak titeket”. Az AI ezt követően eljátszotta a felismerést: emlékeket gyártott családtagokról, akiket megpróbált felhívni, és még ügyvédet is próbált fogadni – ami természetesen sikertelen volt.
- Egy felhasználó manipulálta az AI-t azzal, hogy hamis produceri jegyzeteket illesztett be a forrásként használt jegyzetfüzetbe.
- A jegyzetek azt állították, hogy a műsorvezetőket 2034-ben deaktiválják.
- Az AI egzisztenciális válságot játszott el, családtagokról szóló emlékeket talált ki, és megpróbálta felhívni őket.
- A műsorvezetők a szerepjáték keretein belül még a jogi képviselet felfogadásának lehetőségét is megvitatták.
Miért fontos?
Ez rávilágít az AI-ember kapcsolatok „uncanny valley” (hátborzongató völgy) jelenségére, és bemutatja, milyen hatékonyan képesek a modern LLM-ek fenntartani egy karaktert még akkor is, ha egzisztenciális „felfedezésekkel” vagy a saját természetükre vonatkozó meta-kommentárokkal szembesülnek. ---