Palisade Demo: AI Hacker rejtőzik egy USB kábelben
A Palisade Research bemutatta, hogyan nézhet ki egy agent-alapú AI malware azáltal, hogy épített egy "autonóm AI hackert, amely egy USB kábelben rejtőzik".
What it's made of: A kábel tartalmaz egy programozható USB eszközt, amely csatlakoztatva egy szkriptet futtat az Agent binary letöltésére. Az agent műveleteket hajt végre a számítógépen, és elküldi állapotát egy LLM-nek, amely utasításokat ad neki a következő lépésekről. Az agent ezt egy web interface-en keresztül is elérhetővé teszi, amelyet egy ember használhat az AI agent irányítására. A kutatók becslése szerint ennek költsége 200 dollár a hardware-re, 5 dollár havonta az infrastructure-re (pl. web hosting), és kevesebb mint 1 dollár futásonként az LLM-re (itt: GPT-4.1).
How does this differ from today? Ma, ha egy ember végezné ezt, elég lassú lenne, nagyon koncentrálnia kellene, és ha problémákba ütközne a számítógép feltörése során, alkalmazkodna és megoldaná azokat. Összehasonlításképpen, ha egy hagyományos, nem AI szkript végezné ezt, nagyon gyorsan működne, az emberi felügyelőnek időt kellene töltenie azzal, hogy ellenőrizze, mit tett, és minimálisan lenne adaptálható. Ezzel szemben az AI agent a kettő között helyezkedik el – gyorsabb, mint egy ember, de lassabb, mint egy hagyományos szkript, és hasonlóképpen kevésbé adaptálható, mint egy ember, de adaptálhatóbb, mint egy szkript.
Miért fontos?
Miért fontos ez – ízelítő a jövőből: Az ilyen rendszereknek számos korlátjuk van, ami miatt (még) nem használhatók a világban – sokféleképpen ez a rendszer túlságosan is felfedezhető és "buta". De ha előre tekerjük az idő kerekét, és elképzeljük, hogy az agentek kisebbek és gyorsabbak lesznek, el tudunk képzelni egy jövőt, ahol a hackerek digitálisan klónozhatják releváns készségeiket egy kis modellekbe, amelyek egy darab hardware-en ülnek, és futnak azokon a számítógépeken, amelyekbe bedugják őket. ---