Az Etsy botja tévedésből legitim eladói boltokat zár be az AI-művészet miatt
Az Etsy háza táján komoly feszültséget keltett a vállalat automatizált moderációs rendszere, amely a legfrissebb jelentések szerint tévedésből legitim eladói boltokat zár be. A probléma gyökere, hogy a platform által használt bot látszólag képtelen megkülönböztetni a valódi, kézzel készített mintákat és alkotásokat a generatív AI-művészettől. Az érintett eladók kirakatát a rendszer mindenféle előzetes értesítés vagy figyelmeztetés nélkül távolítja el, ami hatalmas felháborodást váltott ki a közösségből, miközben a tech vállalat egyelőre mélyen hallgat az ügyben.
A helyzetet tovább bonyolítja, hogy az Etsy hivatalos álláspontja a mesterséges intelligencia használatával kapcsolatban amúgy is rendkívül homályos és következetlen. A kézműves termékeiről ismert platform közössége régóta vitázik azon, hogy az AI által generált képeknek és termékeknek egyáltalán van-e helyük a piactéren. Ez a technológiai bizonytalanság most közvetlen anyagi kárt okoz azoknak a hús-vér alkotóknak, akik hosszú évek munkájával építették fel vállalkozásukat és ügyfélkörüket a weboldalon.
A botok hibás működése rávilágít az automatizált tartalommoderáció sötét oldalára is. Amikor egy AI alapú algoritmus hoz döntést emberi felügyelet nélkül, a legitim kereskedők teljesen kiszolgáltatottá válnak a technológia tévedéseinek. Mivel a rendszer azonnal, automatikusan zárolja a fiókokat ahelyett, hogy először felülvizsgálatra küldené azokat egy emberi moderátornak, a platform pont a legfontosabb értékeit, a valódi alkotókat és a beléjük vetett bizalmat rombolja szét.
Az eladók felháborodása teljesen érthető, hiszen a transzparencia teljes hiányával szembesülnek. Az Etsy részéről tapasztalható hallgatás és a transzparens kommunikáció hiánya csak olaj a tűzre, hiszen a boltok tulajdonosai semmilyen érdemi magyarázatot vagy támogatást nem kapnak a probléma megoldására. Ez az eset hűen megmutatja, milyen kaotikus következményekkel járhat, ha egy tech óriás túl korán és nem megfelelően kalibrált AI eszközökre bízza a közösség sorsát és a minőségellenőrzést.