AI BIZTONSÁG
Biztonsági audit során súlyos sebezhetőségeket találtak a népszerű YOLOv7 látásalapú modellben
A Trail of Bits nevű kutatási tanácsadó cég elvégezte az egyik legszélesebb körben használt videós objektumfelismerő rendszer, a YOLOv7 biztonsági felülvizsgálatát. Az ellenőrzés során a cég „öt magas és három közepes súlyosságú hibát azonosított”. Ez azt jelenti, hogy a YOLO olyan sebezhetőségekkel rendelkezik, amelyek lehetővé teszik a) szervezetek elleni támadásokat a YOLO modell részei és konfigurációs szoftverei ellen intézett mérgezéses (poisoning) támadásokkal, valamint b) távoli kódfuttatást (remote code execution) is lehetővé tehetnek a modellt használó vállalatoknál. A fő problémát a modellek felépítése jelenti: manapság az az általános, hogy rengeteg open-source modellhez olyan konfigurációs fájlok tartoznak, amelyeket külső forrásokból, például a PyTorch Hub-ról, a HuggingFace-ről vagy a GitHubról töltenek le. Ha egy támadó képes módosítani ezeket a fájlokat, könnyen kompromittálhatja a modellt használó szervezeteket. ML-specifikus problémákra is fény derült: a YOLO a PyTorch torch.jit.trace funkcióját használja a modellek TorchScript formátumba történő konvertálásához a telepítés előtt, a kutatók pedig felfedezték, hogy a támadók olyan YOLO modelleket is közzétehetnek, amelyek csak a trace folyamat után mutatnak rosszindulatú viselkedést, megnehezítve a hibák előzetes azonosítását.
- Öt magas és három közepes súlyosságú biztonsági sebezhetőséget azonosítottak.
- A sebezhetőségek lehetővé teszik a mérgezéses támadásokat és a távoli kódfuttatást.
- A GitHub-hoz vagy HuggingFace-hez hasonló forrásokból származó külső konfigurációs fájloktól való függőség jelentős támadási felületet hoz létre.
- A rosszindulatú viselkedés elrejthető a modellekben úgy, hogy az csak a torch.jit.trace folyamat során aktiválódjon.
- A YOLOv7 repository szerzői nem reagáltak a felelősségteljes közzétételre (responsible disclosure) irányuló megkeresésre.
Miért fontos?
Évtizedeken át vizsgálták és tesztelték az olyan széles körben használt rendszerek biztonságát, mint a Linux, a Windows vagy a webböngészők. Az ML a tömeges elterjedés tekintetében még sokkal fiatalabb terület, így a Trail of Bits-hez hasonló elemzések segítenek jobban megérteni, mit is jelent a biztonság az ML világában.