AI HÍREK
A TikTok-tulajdonos ByteDance kirúgott egy gyakornokot AI-oktatási projektek szabotálása miatt
A ByteDance AI-stratégiája igen erős – különösen a TikTok tartalomajánló algoritmusa. Mondhatni, ez a vállalat legfőbb bevételi forrása. Nos, a hétvégén egy gyakornok „rosszindulatúan beavatkozott” a vállalat egyik másik AI-projektjébe, ami a hírek szerint több millió dolláros kárt okozott. Elsőre azt hittük, a gyakornok csak valamilyen provokatív tartalmat csempészett az adatkészletbe tréfából. De ez nem egy tipikus gyakornoki baki volt. Belső jelentések szerint a gyakornok sebezhetőségeket kihasználva szándékosan szabotálta a tanítási folyamatokat (training runs): késleltetéseket iktatott be, folyamatokat állított le, sőt, visszafordította a tanítási folyamatot – majd volt képe beülni a hibaelhárítási értekezletekre, hogy a támadásait a felfedezés elkerülése érdekében módosíthassa. Miért? Mindezt azért, mert a GPU-erőforrásokat elvonták az ő kutatásától.
- Kihasználta a sebezhetőségeket, hogy késleltetéseket iktasson be az AI-tanítási folyamatokba.
- Szándékosan leállított aktív tanítási folyamatokat.
- Visszafordította a belső modellek tanítási folyamatát.
- Részt vett a hibaelhárítási értekezleteken, hogy módosítsa a támadásokat és elkerülje a lebukást.
- Több millió dolláros kárt okozott a kiesett számítási idő miatt.
Miért fontos?
A belső szabotázs rávilágít a technológiai óriásokon belüli extrém GPU-erőforrás-versenyre, és feltárja azokat a biztonsági réseket, amelyeket a rendszerhozzáféréssel rendelkező, elégedetlen alkalmazottak kihasználhatnak. ---