Egy tanulmány szerint a Microsoft Copilot félrevezető és hibás választási adatokat közöl
Egy friss kutatás komoly aggályokat vet fel a mesterséges intelligencia demokratikus folyamatokban betöltött szerepével kapcsolatban. Az AI Forensics nevű szervezet által közzétett tanulmány megállapította, hogy a Microsoft saját fejlesztésű AI chatbotja, a Copilot, kifejezetten félrevezető és kitalált információkat ad a felhasználóknak a választásokkal kapcsolatban. A jelentés rávilágít arra, hogy a felhasználók nem bízhatnak meg feltétel nélkül a rendszer által generált adatokban, amikor alapvető fontosságú politikai kérdésekről tájékozódnak.
A vizsgálat során kiderült, hogy a Microsoft Copilot működése közben olyan súlyos hibákat vétett, amelyek közvetlenül befolyásolhatják a választói tudatosságot. A jelentés részletesen bemutatja, hogy az AI asszisztens teljesen hibás szavazási dátumokat közölt a kérdezőkkel, valamint valótlan információkat generált a választásokon induló jelöltekről. Ami a szakértők szerint még ennél is aggasztóbb, hogy a chatbot az állításai alátámasztására olyan, valójában nem létező cikkekre és forrásokra hivatkozott, amelyeket a saját algoritmusai találtak ki a válaszadás során. Ezek a téves adatok komoly zavart okozhatnak a polgárok körében, akik hiteles útmutatást várnak az ilyen fejlett platformoktól.
Ez a jelenség nem számít egyedi esetnek, hanem rávilágít az AI modellek egy alapvető és folyamatos kihívására, amelyet a szakma hallucinációnak nevez. Amikor a nagy nyelvi modellek, vagyis az LLM alapú rendszerek nem rendelkeznek elegendő vagy pontos információval, hajlamosak meggyőzőnek tűnő, de teljesen alaptalan tényeket produkálni. A Microsoft Copilot esetében ez a technológiai korlát közvetlenül az állampolgári információszerzést veszélyezteti. A hallucinációk hatékony kezelése és kiszűrése a mai napig a teljes tech szektor egyik legnagyobb megoldandó problémája, amelyre egyelőre nem találtak univerzális megoldást.
A tanulmány eredményei hűen tükrözik, hogy milyen komoly kockázatokkal járhat, ha a társadalom tagjai kritikus fontosságú állampolgári információk keresésére használják ezeket a még korántsem tökéletes AI eszközöket. Mivel a tájékoztatás pontossága alapvető fontosságú a politikai döntéshozatal során, a kitalált hírek és adatok terjedése közvetlen veszélyt jelent. Balthazar Microsoft és a többi nagyvállalat folyamatosan dolgozik a szoftverek frissítésén, az AI Forensics jelentése egyértelmű figyelmeztetésként szolgál: a fontos politikai és választási kérdésekben a polgároknak továbbra is a hivatalos, ellenőrzött forrásokra kell hagyatkozniuk a chatbotok válaszai helyett.