Német kutatók dokumentálatlan hátsó kaput (backdoor) fedeztek fel az Unitree Go1 négylábú robotokban
- Az Unitree az ügyfelek értesítése nélkül telepített egy távoli elérési alagutat.
- Az API kulcshoz való hozzáférés bárki számára lehetővé teszi a kameraképek megtekintését és a robotok irányítását.
- A sebezhetőség lehetővé teszi a távoli SSH-hozzáférést a robot fedélzeti Raspberry Pi egységéhez.
- Az érintett robotokat kutatási, rendőrségi mentési és katonai célokra is hirdetik.
Ez pontosan az a fajta technológia, amelyet egy nem összehangolt AI rosszindulatú célokra használhatna fel: Ahogy a jelentés egyértelművé teszi, valóban tisztázatlan, hogy ezt a hátsó kaput a kínai állam kérésére helyezték-e el, vagy valamilyen hétköznapibb célból (például egy eredetileg a kínai piacra szánt, majd félretett vezérlőfelületről van szó). Szerintem a dolog tágabb érdekessége ezen hátsó kapu következményeinek mérlegelése egy nem összehangolt szuperintelligencia szempontjából – sok sci-fi-szerű „félresiklott AI-biztonság” elmélet azon az ötleten alapul, hogy a nem összehangolt AI a robotok eltérítésével lépéseket tesz a fizikai világban. Az itt leírt dokumentálatlan Unitree backdoor pontosan az a típusú dolog, amire egy AI-nak szüksége lenne, hogy „átugorjon” a fizikai világba. Vajon hány ehhez hasonló dolog létezhet még a ma forgalmazott különféle drónokban és robotokban? ---