Az AI javítja a kezdők teljesítményét a kettős felhasználású biológiai fegyverekkel kapcsolatos feladatokban
2026. március 2. · MI Történik? · 2 perc olvasás
Az AI rendszerek segíthetnek a kezdőknek jobban teljesíteni a biológiai fegyverekkel kapcsolatos feladatokban, bár továbbra is meglehetősen ineffektívek, és performance változó a különböző discipline-ekben. A Scale AI, SecureBio, University of Oxford és UC Berkeley kutatói azt vizsgálták, hogyan javíthatják a különböző LLM-ek azoknak az embereknek a skilljeit, akik biológiai fegyverekkel kapcsolatos knowledge feladatokat kaptak. OpenAI (o3), Google (Gemini 2.5 Pro és Gemini Deep Research) és Anthropic (Claude Sonnet 3.7 és Claude Opus 4) LLM-eket használtak. „Multimodel, multi-benchmark human uplift studyt végeztünk, összehasonlítva a LLM access-szel rendelkező novice-okat az internet-only access-szel rendelkezőkkel nyolc biosecurity-relevant task seten keresztül” – írják. „A participantok komplex problemeken dolgoztak ample time-mal (akár 13 óra a leginvolvedabb taskoknál). Azt találtuk, hogy az LLM access substantial upliftet biztosított: az LLM-ekkel rendelkező novice-ok 4,16-szor accuratebbek voltak a kontrollcsoportnál.” Azt tesztelték, hogy 15 human hogyan teljesít long-form virologyban („a challenging multi-step protocol for constructing a novel biological agent”), és az agentic bio-capabilities benchmarkján („három distinct coding task, amelyek complex biosecurity problem-solving experimenteket fedtek le. Ezek included challenges such as interacting with simulated lab equipmenttel (e.g, liquid handling robotok) és breaking down gene fragmenteket.” Along with this, 1-2 human participant is részt vett other testeken, including World Class Biology, Virology Capabilities Test, Human Pathogen Capabilities Test, Molecular Biology Capabilities Test, LAB-Bench és Humanity’s Last Exam. On the largest testek, in terms of human participantok, performance vegyes volt: az AI-val és anélkül dolgozó emberek roughly equal score-okat értek el a long-form virology teszten, de az agentic bio-capabilities teszten az AI-hoz access-szel rendelkező emberek significant upliftet kaptak. On every other test, az AI-hoz access-szel rendelkező emberek jobban tettek, mint azok, akik nem – but given the small number of human participantok, it’s hard to know whether these results would replicate. When averaged out over all the testek, „az LLM access increases novice accuracy from approximately 5%-ról over 17%-ra”.
Miért fontos?
Miért fontos ez – az AI forradalmasítja az oktatást, a tudomány frontiersét és perhaps a terrorizmust is: Ha strip away the context, ez a paper merely demonstrálja, hogy az LLM-ek goodok at teaching people things. Ez intuitive, but has big implicationok. Here: az LLM-ek turned are to a part of science that we don’t necessarily want many people to get better at (bioweaponök), but it could just as easily be pointed at any other subject as well. Whenever you lower the barrier to entry to a field, több ember do it, és you get more of the good és more of the bad. „Taskok, amelyek once required years of formal traininget, such as experimental design, protocol troubleshooting és elements of sensitive sequence reasoningot, can now be performed by individuals with limited prior experience” – írják. „Az LLM-ek materially lowering one of the most important historical barrier-okat a biological weapons developmenthöz: specialized expertise és tacit technical knowledge-et.”
---