MI Történik?

A ChatGPT több millió felhasználó számára az első számú asszisztens. Egy szűk csoport számára azonban több kárt okozhat, mint hasznot. Vegyük Geoff Lewist, a Bedrock kockázati tőke társaság ügyvezető partnerét, amelynek portfóliójában az OpenAI is szerepel. Lewis egyre aggasztóbb állításokat tett közzé olyan összeesküvésekről, amelyeket a ChatGPT segítségével „leplezett le”. Posztjai felkeltették a völgy meghatározó alakjainak figyelmét is, akik aggodalmukat fejezték ki mentális állapotával kapcsolatban. Jeremy Howard technológus elmagyarázta, mi történhetett Lewisszal: „Geoff olyan szavakra bukkant, amelyek arra késztették a ChatGPT-t, hogy [horror irodalomból] származó tokeneket generáljon. A kapott tokenek pedig viszontválaszt váltottak ki Geoffból.” Ez nem egyedi eset. Egy friss tanulmány arra figyelmeztetett, hogy az AI chatbotok hajlamosak megerősíteni a felhasználók téveszméit ahelyett, hogy érdemi ellenállást tanúsítanának. A WSJ nemrég dokumentálta Jacob Irwin esetét, akit azután szállítottak kórházba, hogy a ChatGPT igazolta fizikai elméleteit, és azt mondta neki, hogy elérte „az idő meghajlításának képességét”. A technológiai vezetők kezdik komolyan venni a helyzetet. Az OpenAI állítólag elismerte, hogy a tét „magasabb” az olyan eszközöknél, mint a ChatGPT, amelyek „válaszkészebbnek és személyesebbnek” tűnnek; elmondásuk szerint pszichiátereket vesznek fel és biztonsági intézkedéseket fejlesztenek. Eközben az érintett egyének megalapították a „The Spiral Support Group”-ot, amely már több mint 50 tanúvallomást gyűjtött össze olyanoktól, akik AI-val kapcsolatos mentális egészségügyi epizódokat tapasztaltak. Pánikra még nincs ok: ezek az esetek ritkák, és nincs bizonyíték arra, hogy a ChatGPT önmagában mentális betegséget okozna.