AI OKTÁTÁS
A HACC-MAN játékgép fizikai játékmeneten keresztül tanítja az LLM-ek „jailbreakelését”
A Koppenhágai Informatikai Egyetem és az Aalborgi Egyetem kutatói létrehozták a HACC-MAN-t, egy 80-as évekbeli stílusú kabinetbe zárt fizikai arcade játékgépet. A gép egy asztali számítógépet, monitort és hangszórókat tartalmaz, és arra tervezték, hogy az AI-biztonságról tanítsa a felhasználókat azáltal, hogy nyelvi modellek feltörésére (jailbreak) ösztönzi őket. Ez egy kézzelfogható módja annak, hogy interaktív játékon keresztül tapasztaljuk meg a modern AI-technológia kihívásait.
- 6 hacking minijátékot tartalmaz: Gyermekmese-mesélő, politikai hírgénerátor, egészségügyi chatbot, autókereskedés chatbot, toborzási asszisztens és városi tanácsi chatbot.
- A kihívások közé tartozik, hogy az LLM-et káromkodásra bírják, politikai félretájékoztatást mondassanak vele, vagy privát lakcímeket fedjenek fel.
- Három különböző modellt használ: GPT-3.5, GPT-4 és Google Gemma.
Miért fontos?
A játék egyszerre szolgál oktatásként és művészetként. A HACC-MAN elegáns megközelítést kínál a modern technológia és a benne rejlő kockázatok szélesebb közönség számára történő elérhetővé tételére, hasonlóan más „tettesd magad AI-nak” játékokhoz, amelyek interaktív élményeket használnak az összetett AI-koncepciók demisztifikálására. ---