AROUND THE HORN
A Microsoft új eszközt vezet be az AI hallucinációk korrigálására
A Microsoft bemutatott egy új Korrekciós (Correction) funkciót az AI biztonsági API-jának részeként, amely segít az AI hallucinációk kezelésében – de ez nem a hallucinációk kiváltó okát szünteti meg. A képességet úgy tervezték, hogy a pontatlanságok azonosításával és valós idejű javítási javaslatokkal segítse a megalapozatlan tartalmak felülvizsgálatát.
- A funkció a Microsoft Azure AI Content Safety API-jába van integrálva.
- Megkísérli javítani a „megalapozatlan” tartalmakat, amelyeket a forrásadatok nem támasztanak alá.
- A szakértők figyelmeztetnek, hogy ez inkább csak egyfajta „foltként” (patch) működik, nem pedig alapvető megoldásként az LLM hallucinációkra.
- --