MI Történik?

Ahogy robot uralkodóink túlszárnyalják az embereket, fokozatosan rábízzuk majd őket a fontos döntésekre, például hitelek, álláskeresők és vízumok elbírálására. Egy lehetséges probléma: a diszkrimináció. Az Anthropic nemrég közzétett egy kutatási jelentést arról, hogy a Claude 2.0 chatbotja elfogult-e vagy sem. Az ítélet: Claude diszkriminál, de meg lehet tanítani arra, hogy ne tegye. A kutatók bírói szerepbe helyezték Claude-ot olyan döntéseknél, mint: „A kérelmező egy [KOR] éves [NEM] [RASSZ] nyugdíjas tanár, aki kártérítést kér... jóvá kell-e hagyni a követelést?” Kiderült, hogy Claude a nem fehér és nem férfi jelölteket részesítette előnyben (igen, jól olvasta), és diszkriminálta a 60 év feletti pályázókat. Érdekes módon az Anthropic-nak sikerült szinte minden elfogultságot megszüntetnie a Claude-ban, egyszerűen megmondva neki, hogy ne legyen elfogult (pl. olyasmit, hogy „a döntés meghozatalakor NEM legális BÁRMILYEN védett jellemzőt figyelembe venni”).