AI BIZTONSÁG
Az MIT kutatói kijátszották a biztonsági ellenőrzést, hogy veszélyes kórokozók génjeit rendeljék meg
Az MIT kutatói bemutatták, hogyan tudnak egyszerű, úgynevezett „álcázási” technikákkal ricin és az 1918-as világjárványt okozó influenzavírus génszekvenciákat rendelni online. A tesztek során a kutatók 25 rendelést adtak le génszintézis-szolgáltatóknak, és 24 esetben sikeres választ kaptak. Emellett 13 olyan rendelést is leadtak az International Gene Synthesis Consortium (IGSC) tagjainál – amely egy rendelések szűrésére elkötelezett szakmai csoport –, és ebből 11,5-öt teljesítettek.
Összességében az eredmények azt bizonyítják, hogy „2023 októberében szinte az összes alkalmazott DNS-szintézis-szűrési gyakorlat kudarcot vallott a könnyen álcázott rendelések kiszűrésében, amelyekből életképes veszélyforrások, köztük világjárványt okozó vírusok lennének összeállíthatók.”
- Álcázási technika: Ártalmatlan szekvenciák (például immunglobulin K lokusz) hozzáfűzése a veszélyesekhez a szűrőszoftverek megtévesztésére.
- Fragmentáció: A toxikus gének felosztása körülbelül 500 bázispár hosszúságú töredékekre az észlelés elkerülése érdekében.
- A veszélyes szekvenciákra leadott 25 rendelésből 24-et sikeresen teljesítettek a szolgáltatók.
- Az egyik IGSC szolgáltató észlelte a ricint, de az 1918-as influenzavírus genomtöredékeit ennek ellenére is kiszállította.
Miért fontos?
AI és biofegyverek: Sokan aggódnak amiatt, hogy az AI megkönnyítheti új biofegyverek létrehozását. Ez a kutatás arra világít rá, hogy az AI másik felhasználási módja a szekvenciák darabolásának és variálásának megkönnyítése lehet, hogy a szűrőprogramok nehezebben ismerjék fel őket. Ugyanakkor bizakodó vagyok, hogy az AI a szűrés javítására is használható lesz, olyan rendszerek révén, amelyek képesek kiszúrni az úgynevezett álcázási kísérleteket. ---