Az Aleph Alpha modellje Hitler-párti és elfogult válaszokat generált
Kutatók megállapították, hogy az Aleph Alpha – egy német AI vállalat, amely az eurocentrikus „szuverén AI” rendszerek építésének elkötelezettje – fő modellje képes Hitlert és a Hamaszt éltető kijelentéseket tenni. A Tagesspiegel német lap jelentése szerint a modell széles körben terjeszt olyan sztereotípiákat is, amelyek nem felelnek meg a legtöbb baloldali normatív keretrendszernek.
- A modell válaszai között szerepelt Hitler dicsérete és a Hamasz támogatása.
- A rendszer a kijelentett „európai értékekkel” ellentétes sztereotípiákat terjesztett.
- A vizsgálatot követően a cég weboldalát ideiglenesen lekapcsolták.
- A márkakommunikáció az „európai értékrendű AI”-ról a „Szuverén AI”-ra tolódott el.
Az ilyen típusú kudarc nem szokatlan – a legtöbb nyelvi modell hajlamos az előítéletek rögzítésére, hacsak nem építenek be gondosan biztonsági rétegeket és eszközöket. A kihívás az, hogy az Aleph Alpha büszke volt arra, hogy az „európai értékekhez” igazodó modellt épít, ám nyomás alatt a modellje egyértelműen nem az Európában uralkodó normatív konszenzusnak megfelelően viselkedett. ---