Légy óvatos: A Google AI áttekintései továbbra is milliókat hallucinálnak
Egy friss NYT jelentés szerint a Google AI áttekintései 90%-ban pontosak, ami elsőre megnyugtató statisztika – amíg nem számolod ki. Évi 5 billió keresés esetén ez a 10%-os hibahatár azt jelenti, hogy több tízmillió áttekintés téves óránként. De mi a nagyobb probléma? Minden áttekintés magabiztosnak és hivatalosnak tűnik. Miért pontatlanok az áttekintések? A tanulmány három okot tárt fel, amiért az AI áttekintések hibáznak: a Facebookról és Redditről származó információkra támaszkodnak (a 2. és 4. leggyakrabban használt forrás), olyan weboldalakra hivatkoznak, amelyek nem támasztják alá az állítást, vagy téves összefoglalókat generálnak tényszerű információkról. A chatbotok is manipulálhatók. A csalók és ügyes marketingesek szándékosan félrevezethetik az információkat kereső chatbotokat. Thomas Germain újságíró bebizonyította ezt, amikor közzétett egy blogbejegyzést "The Best Tech Journalists at Eating Hot Dogs" címmel, amelyben saját magát rangsorolta az első helyre, és figyelte, ahogy az AI tényként tálalja azt.
Mindig ellenőrizz. Az AI chatbotok továbbra is valóban hasznos keresési asszisztensek. Az esetek többségében igazuk van, gyorsabban tudnak kutatni, mint bármely ember, és valószínűleg olyan kritikus felismerésekre bukkannak, amelyeket egyébként kihagynál. Hagyd az AI-ra a piszkos munkát – csak ellenőrizd az állításait, mielőtt cselekszel. ---