A brit hírszerzés arra figyelmeztet, hogy a generatív AI fel fogja erősíteni a meglévő biztonsági kockázatokat
A brit kormány közzétette a generatív AI technológiák biztonsági és védelmi értékelését az Egyesült Királyság AI biztonsági csúcstalálkozója előtt. A jelentés, amelyet részben a brit hírszerző szolgálatok információi alapján állítottak össze, azt sugallja, hogy a következő 18 hónapban a generatív AI valószínűleg inkább a meglévő kockázatokat fogja felerősíteni, semmint teljesen újakat hoz létre, bár egyes fenyegetések sebességét és mértékét jelentősen növelni fogja. E technológiák gyors elterjedése valószínűleg lehetővé teszi a kevésbé felkészült szereplők számára is, hogy korábban kivitelezhetetlen támadásokat hajtsanak végre. A jelentés mellett Rishi Sunak miniszterelnök részletezte a „konstruktív pesszimizmus” megközelítését, figyelmeztetve, hogy az AI megkönnyítheti a vegyi vagy biológiai fegyverek előállítását, és szélsőséges esetekben az AI-rendszerek feletti emberi kontroll elvesztéséhez vezethet.
- Az open-source AI-rendszerek a képességek elterjedése révén globális biztonsági kockázatokat hordoznak.
- A generatív AI valószínűleg felgyorsítja a csalások, az adathalászat, a ransomware-támadások és a gyermekek elleni szexuális visszaélést ábrázoló képek terjedését és kifinomultságát.
- A terroristák felhasználhatják az AI-t a propaganda, a toborzás és a fegyverfejlesztési tervezés hatékonyságának növelésére.
- Az AI súlyosbítja a cyber-támadásokat és a digitális sebezhetőségeket olyan módszerekkel, mint a prompt injection.
- Az Egyesült Királyság tervezi a világ első AI Biztonsági Intézetének (AI Safety Institute) létrehozását az új modellek tesztelésére és értékelésére.
- A kormány közel egymilliárd fontot fektet egy új nemzeti szuperszámítógépbe a számítási kapacitás növelése érdekében.
A modern generatív AI-rendszerek „mindenes gépek” – többcélú technológiák, amelyek előnyös és káros feladatok elvégzésére egyaránt alkalmasak. Ahogy a társadalom szembesül ezekkel a nagy tudású eszközökkel, a hírszerző szolgálatok, mint például a brit titkosszolgálat vagy az NSA, dedikált központokat hoznak létre a nemzetbiztonsági kockázatok nyomon követésére és mérséklésére. ---