A Google népharaggal néz szembe a Gemini pontatlan és túlzottan diverz történelmi képei miatt

A múlt hét egyszerre hozta el a legfényesebb sikereket és a legsúlyosabb kudarcokat a Google számára az AI fejlesztések terén. Miközben a tech óriás gőzerővel készül a rendkívüli képességekkel és hatalmas kontextusablakkal rendelkező Gemini 1.5 Pro modell bevezetésére, a cégnek egy komoly krízissel is szembe kellett néznie. A Google saját AI chatbotja, a Gemini ugyanis a népharag középpontjába került, miután a felhasználók megdöbbentő és történelmileg súlyosan pontatlan képgenerálási eredményekkel szembesültek a felületén. A felháborodást az váltotta ki, hogy a rendszer a történelmi személyeket, köztük az amerikai alapító atyákat, kirívóan túlzó módon, szinte kivétel nélkül színes bőrűként ábrázolta.

A háttérben meghúzódó okok meglehetősen prózaiak, mégis rávilágítanak az AI fejlesztés jelenlegi legnagyobb kihívásaira. A Google mérnökei eredetileg speciális utasításokat adtak a Gemininek a diverzitás, azaz a sokszínűség biztosítására vonatkozóan, hogy elkerüljék a technológiát gyakran érő előítéletességi vádakat. A chatbot azonban túl szó szerint és túlságosan mereven vette ezeket az irányelveket, aminek következtében a történelmi hűség teljesen háttérbe szorult a diverzitási szabályok mögött. Az elképesztő és sokszor komikus eredmények gyorsan bejárták az internetet, rávilágítva arra a kritikus problémára, hogy mennyire nehéz biztosítani az AI modellek tökéletes összhangját az emberi szándékokkal és a valós tényekkel.

A kialakult helyzet miatt a Google azonnal bocsánatot kért a felhasználóktól, és drasztikus lépésre szánta el magát: átmenetileg teljesen kikapcsolta a Gemini képgeneráló funkcióját. A vállalat vezetése ígéretet tett arra, hogy javítják a hibákat, és a jövőben jobb, pontosabb szolgáltatást nyújtanak majd. A Google számára a reménysugárt az jelenti, hogy az ilyen jellegű finomhangolási problémák jól javíthatóak, hiszen korábban a ChatGPT esetében is láthattunk hasonló kezdeti elfogultságokat és hibákat, amelyeket a fejlesztők sikeresen korrigáltak. A tech közösség és a felhasználók most már csak abban reménykednek, hogy a javítási folyamat nem tart majd olyan extrém hosszú ideig, mint ameddig a Gemini eredeti kiadásának fejlesztése és piacra dobása tartott.