AI INFRASTRUKTÚRA
Biztonsági auditon esett át a safetensors, és alapértelmezetté vált a nagy AI-szervezeteknél
Olyan AI-szervezetek, mint a Hugging Face, az EleutherAI és a Stability AI összefogtak, hogy finanszírozzák a „safetensors” biztonsági auditját. Ez egy szoftverkönyvtár, amely lehetővé teszi a tenzorok biztonságos mentését és betöltését a legnépszerűbb keretrendszerekben. A könyvtár létrehozását az tette szükségessé, hogy a PyTorch a háttérben a „pickle” formátumot használja, amely eredendően nem biztonságos. A pickle használatával lehetséges olyan kártékony fájlokat írni, amelyek modellnek álcázzák magukat, de teljes irányítást adnak a támadónak a felhasználó számítógépe felett a tudta nélkül, lehetővé téve érzékeny adatok ellopását vagy kártevők telepítését. Bár ez a biztonsági rés ismert a kiberbiztonsági világban, a szélesebb ML-közösségben nem köztudott.
- A biztonsági felülvizsgálat nem talált kritikus biztonsági hibákat a safetensors-ban.
- Azonosították és javították a specifikáció formátumának néhány pontatlanságát.
- Javították a hiányzó validációt, amely lehetővé tette a „polyglot” fájlok használatát.
- A safetensors mostantól alapértelmezetté válik a Hugging Face Hub-on.
Miért fontos?
Ez a lépés egy jelentős biztonsági rést foltoz be az AI-ökoszisztémában. Mivel bárki feltölthet modelleket olyan platformokra, mint a Hugging Face, egy biztonságos formátum, mint a safetensors, megvédi a felhasználókat a modell súlyaiba rejtett kártevőktől. ---