A Microsoft visszaélést bejelentője riadót fújt a Copilot Designer tartalmi kockázatai miatt
A Microsoft egyik vezető szoftvermérnöke, Shane Jones komoly aggályainak adott hangot a vállalat AI-stratégiájával kapcsolatban, miután panaszt nyújtott be az amerikai Szövetségi Kereskedelmi Bizottsághoz (FTC). A szakember arra hívta fel a figyelmet, hogy a Microsoft Copilot Designer eszköze jelentős biztonsági hiányosságokkal küzd, és a vállalat a jelenlegi formájában nem tesz eleget a káros tartalmak generálásának megakadályozása érdekében. A vádak különösen azért súlyosak, mert a mérnök belső figyelmeztetéseit a vezetés állítólag figyelmen kívül hagyta, így a termék a felmerült kockázatok ellenére is széles körben elérhető maradt a felhasználók számára.
A probléma gyökere az OpenAI DALL-E modelljében rejlik, amely a Copilot Designer motorjaként szolgál. Shane Jones saját kutatásai során olyan sebezhetőségeket azonosított, amelyek lehetővé teszik a rendszer beépített tartalomszűrőinek könnyed megkerülését. A mérnök szerint az eszköz működése során gyakran olyan veszélyes vagy nem megfelelő tartalmakat generál, mint az explicit erőszak, kiskorúak kábítószer- és alkoholfogyasztását ábrázoló képek, valamint súlyos politikai elfogultságot tükröző vagy szerzői jogokat sértő alkotások. Jones a vállalat belső csatornáin keresztül sürgette a termék azonnali visszavonását, amíg a megfelelő biztonsági korlátokat és technikai szűrőket nem sikerül hatékonyan implementálni, ám kérését a Microsoft részéről nem teljesítették.
Ez a belső konfliktus éles ellentétben áll a Microsoft által hangoztatott, felelős AI fejlesztésére vonatkozó nyilvános vállalásokkal. Miközben a technológiai óriás folyamatosan a biztonságot és az etikus AI-fejlesztést helyezi kommunikációja középpontjába, egy saját munkatársától érkező ilyen éles kritika komoly kérdéseket vet fel a vállalati kultúrával és a prioritásokkal kapcsolatban. A szakmai közösség számára a helyzet azt a nyugtalanító kérdést feszegeti, hogy a piaci verseny és a profitmaximalizálás milyen mértékben írhatja felül a biztonsági szempontokat a mesterséges intelligencia fejlesztésében. Az ügy rávilágít arra, hogy a gyors innovációs kényszer közepette a tech cégek gyakran túl hamar tesznek elérhetővé olyan hatékony eszközöket, amelyek még nem estek át a megfelelő kontrollvizsgálatokon.
- Shane Jones sebezhetőséget fedezett fel az OpenAI DALL-E modelljében (amely a Copilot Designert hajtja), ami lehetővé tette számára a tartalomszűrők megkerülését.
- Jones elmondta, hogy sürgette a vállalatot a termék visszavonására a megfelelő biztonsági intézkedések bevezetéséig, de figyelmen kívül hagyták.
- Levelében Jones azt állítja, hogy az eszköz explicit erőszakot, kiskorúak kábítószer- és alkoholfogyasztását, politikai elfogultságot, szerzői jogi jogsértéseket és egyebeket jelenít meg.
Ez a Microsoft saját soraiból érkező robbanásszerű panasz súlyosan aláássa a technológiai óriás „felelős AI” alapelvek melletti nyilvános elkötelezettségét – miközben azt sugallja, hogy a profit fontosabb lehet a biztonságnál. ---