MI Történik?

Nézzük a tényeket: mindannyian azt szeretnénk, hogy az AI egyfajta csodafegyver legyen minden problémánkra. De vajon mindannyian egy „AI bizalmi adót” fizetünk azzal, hogy teljes bizalmunkat ezekbe a meglehetősen megbízhatatlan gépekbe fektetjük? Biztonsági kutatók folyamatosan rávilágítanak arra, hogy az „AI böngészőágensek” (mint például az OpenAI új Atlas böngészője) eltéríthetők prompt-injection és adatkiszivárogtatás révén. Ez alapvetően azt jelenti, hogy egy weboldal csendben rávehet egy AI asszisztenst, hogy az Ön nevében cselekedjen – például sütiadatokat (cookies) másoljon le, elolvassa az e-mailjeit vagy kártékony linkekre kattintson – anélkül, hogy Ön tudna róla. A képernyőmentések terén a Microsoft új Gaming Copilotja keltett feltűnést azzal, hogy játék közbeni képernyőfotókat készített a „kontextus” megértése érdekében. A Microsoft állítása szerint ez a játékok jobb megértését szolgálja, nem pedig új modellek tanítását, de a felhasználóknak nem tetszik, hogy milyen nehéz kikapcsolni ezt a funkciót. Ezzel párhuzamosan a befektetők még mindig csak találgatnak a Microsoft és az OpenAI partnerségének valódi gazdasági hátteréről; a WSJ egy új cikke világosabb pénzügyi közzétételeket sürget, a Hacker News kommentelői pedig azzal érvelnek, hogy a kulcsfontosságú részletek olyan homályos tételekben vannak elrejtve, mint az „egyéb, nettó”. Az eredmény: senki sem tudja pontosan, mekkora kockázat, kitettség vagy nyereség áramlik a két fél között, ha ez az egész AI-történet rossz irányba fordulna. Mindhárom eset ugyanarra a súrlódásra mutat rá: az emelkedő „AI bizalmi adóra”. Ezek az epizódok rávilágítanak arra, hogy az ágensek felhasználói élménye (UX) sokkal gyorsabban fejlődik, mint az azok védelmére vagy magyarázatára hivatott rendszerek.