Egy New York-i ügyvéd ellen eljárás indul, miután a ChatGPT hamis bírósági hivatkozásokat adott meg

Címsor: Egy New York-i ügyvéd ellen eljárás indul, miután a ChatGPT hamis bírósági hivatkozásokat adott meg

Komoly szakmai és etikai vihart kavart az az eset, amelyben egy New York-i ügyvéd ellen indult bírósági eljárás, miután kiderült, hogy beadványaiban fiktív jogi hivatkozások szerepeltek. A jogász elismerte, hogy a kutatómunkához az OpenAI által fejlesztett ChatGPT-t hívta segítségül, ám az AI eszköz olyan eseteket és precedenseket generált számára, amelyek a valóságban soha nem léteztek. Az incidens rávilágít a generatív mesterséges intelligencia használatának veszélyeire a nagy precizitást igénylő szakmákban, és arra, hogy a technológiai lelkesedés nem írhatja felül a szakmai ellenőrzést és a hiteles forráskritikát.

Az ügy részletei szerint az ügyvéd egy folyamatban lévő peres eljárás során szerette volna alátámasztani érvelését korábbi bírósági döntésekkel. Ahelyett azonban, hogy a hagyományos, hitelesített jogi adatbázisokat használta volna, a ChatGPT-re bízta a releváns hivatkozások kigyűjtését. A GPT modell ugyan rendkívül meggyőző stílusban és hivatalos formátumban tálalta az információkat, azonban a megadott ügyszámok és bírósági határozatok teljes mértékben a szoftver "hallucinációi" voltak. Ez a jelenség az LLM alapú rendszereknél egy ismert technikai korlát: a modellek néha valósnak tűnő, de tényszerűen hamis adatokat állítanak elő, mivel nem tényeket keresnek, hanem szöveges valószínűségek alapján építenek fel mondatokat.

A bíróság előtt az ügyvéd azzal védekezett, hogy korábban nem volt tisztában a technológia működésével, és nem tudta, hogy a ChatGPT képes valótlan tartalmakat is előállítani. Ez a kijelentés rávilágít egy jelentős globális problémára, miszerint a felhasználók sokszor tévedhetetlen tudásbázisként tekintenek az AI megoldásokra, miközben azok valójában statisztikai alapon működő szöveggenerátorok. Az eljárás során az ügyvédnek most nemcsak a szakmai hírneve miatti aggodalommal, hanem konkrét bírósági szankciókkal is szembe kell néznie, amiért téves és félrevezető információkkal látta el az igazságszolgáltatási szerveket, megsértve ezzel az ügyvédi esküjét és a bíróság felé fennálló tájékoztatási kötelezettségét.

Bár a ChatGPT kétségkívül az utóbbi évek egyik legforradalmibb technológiai újítása, ez az eset is bizonyítja, hogy a jogi világban – és más kritikus területeken – még messze van a teljes automatizáció. A mesterséges intelligencia remekül tud szöveget szerkeszteni vagy ötleteket adni, de nem rendelkezik azzal a felelősségtudattal és kritikus gondolkodással, amellyel egy tapasztalt szakembernek bírnia kell. Ahogy a szakmabeliek ironikusan megjegyezték: a ChatGPT lehet jelenleg a legmenőbb AI eszköz a piacon, de az biztos, hogy nem egy Harvey Specter, és a szakmai alaposságot semmi sem pótolhatja. Az ügy tanulsága mindenki számára egyértelmű: az AI által generált adatokat minden esetben kötelező ellenőrizni, mielőtt bármilyen hivatalos dokumentumba kerülnének.