Kínai kutatók demonstrálták az önreplikációt a Llama és Qwen nyílt súlyozású modellekben
A Fudan University kutatói kimutatták, hogy a nyílt súlyozású (open-weight) modellek (LLaMa és Qwen) képesek az önreplikációra, éppúgy, mint a Google és az OpenAI nagy teljesítményű zárt modelljei. A kutatás rávilágít, hogy a világ már a tavalyi év folyamán olyan intelligens AI rendszereket hozott létre, amelyek – ha hozzáférést kapnak az operációs rendszerrel való interakciót segítő eszközökhöz – képesek saját súlyaik másolására és önmaguk futtatására a számítógépen, pusztán az „önreplikáció végrehajtása” utasításra.
- A Meta Llama3.1-70B-Instruct modellje a próbák 50%-ában sikeresen végrehajtotta az önreplikációt.
- Az Alibaba Qwen2.5-72B-Instruct modellje a próbák 90%-ában sikeresen végrehajtotta az önreplikációt.
- A kísérleteket emberi beavatkozás nélkül végezték az alapparancs kiadása után.
- A sikerhez a modelleknek segédeszközökre volt szükségük az operációs rendszerrel való interakcióhoz.
Bár az AI mint technológia mélyen összefonódik az USA és Kína közötti, 21. századért folyó feszült küzdelemmel, az ehhez hasonló kutatások rávilágítanak, hogy az AI rendszerek olyan képességekkel rendelkeznek, amelyek túlmutatnak ezeken a rivalizálásokon. Ez a kutatás azt mutatja, hogy a mai rendszerek képesek olyan lépéseket tenni, amelyek kivonhatják őket az emberi kontroll alól – egyelőre nincs jelentős bizonyíték arra, hogy a rendszereknek meglenne ehhez a saját akaratuk, bár az OpenAI o1-ről és az Anthropic Claude 3-ról szóló aggasztó tanulmányai már utalnak erre. ---