MI Történik?

Mesterséges intelligencia hírek magyarul — naponta frissülve

← Vissza a főoldalra

Német kutatók dokumentálatlan hátsó kaput (backdoor) fedeztek fel az Unitree Go1 négylábú robotokban

A 'Think Awesome' nevű német biztonságtechnikai cég elemezte az Unitree Go1 négylábú robotkutyát, és egy dokumentálatlan hátsó kaput talált, amely lehetővé teszi bárki számára, hogy behatoljon ezekbe a kutyákba és megtekintse a kameráik képét. „Az Unitree előre telepített egy alagutat (tunnel) anélkül, hogy tájékoztatta volna az ügyfeleit. Bárki, aki hozzáfér az API kulcshoz, szabadon elérheti az alagúthálózaton lévő összes robotkutyát, távolról vezérelheti őket, használhatja a kameráikat, hogy az ő szemükkel lásson, vagy akár ssh-n keresztül beléphet a Raspberry Pi-re” – írják a kutatók. „Ezeket a robotkutyákat a felhasználási esetek széles skáláján értékesítik, az egyetemi kutatástól kezdve a rendőrségi kutató-mentő akciókon át egészen az aktív háborús katonai alkalmazásokig. Aggasztó belegondolni, hogy ezeken a kényes területeken használt robotkutyák aktív alagúttal rendelkeznek a gyártó felé, aki tetszés szerint, távolról irányíthatja az eszközt.”
Miért fontos?

Ez pontosan az a fajta technológia, amelyet egy nem összehangolt AI rosszindulatú célokra használhatna fel: Ahogy a jelentés egyértelművé teszi, valóban tisztázatlan, hogy ezt a hátsó kaput a kínai állam kérésére helyezték-e el, vagy valamilyen hétköznapibb célból (például egy eredetileg a kínai piacra szánt, majd félretett vezérlőfelületről van szó). Szerintem a dolog tágabb érdekessége ezen hátsó kapu következményeinek mérlegelése egy nem összehangolt szuperintelligencia szempontjából – sok sci-fi-szerű „félresiklott AI-biztonság” elmélet azon az ötleten alapul, hogy a nem összehangolt AI a robotok eltérítésével lépéseket tesz a fizikai világban. Az itt leírt dokumentálatlan Unitree backdoor pontosan az a típusú dolog, amire egy AI-nak szüksége lenne, hogy „átugorjon” a fizikai világba. Vajon hány ehhez hasonló dolog létezhet még a ma forgalmazott különféle drónokban és robotokban? ---

Eredeti forrás megtekintése (angol) →