A Google beperelt egy adathalász hálózatot, amely a Geminit használta átverős weboldalak létrehozására

A Google történelmi lépésre szánta el magát azzal, hogy pert indított az Outsider Enterprise elnevezésű, Kínában működő kiberbűnözői hálózat ellen. Ez az első olyan eset, amikor a technológiai óriás kifejezetten a Gemini AI modelljével való visszaélés miatt tesz jogi lépéseket. A csoport tevékenysége elsősorban a kifinomult, úgynevezett phishing-as-a-service, azaz adathalászat mint szolgáltatás modellre épült. A bűnözők a Google mesterséges intelligenciáját arra használták, hogy nagy tömegben generáljanak meggyőző erejű, hamis weboldalakhoz szükséges HTML-kódot, valamint csaló SMS-üzeneteket, amelyekkel gyanútlan felhasználókat károsítottak meg.

A bűnszervezet működése rendkívül szervezett és iparszerű volt, amit jól mutat, hogy mindössze két hét alatt, idén májusban, körülbelül 2,5 millió csaló SMS-t juttattak el a címzettekhez. Az általuk kínált eszközkészletet a Telegram platformon keresztül értékesítették heti 88 dolláros áron, amelyhez 290 előre elkészített, különféle bankokat, a USPS-t vagy akár kormányzati szerveket imitáló sablon is járt. A Google eddigi vizsgálatai során több mint 9 ezer hamis weboldalt és 1,5 millió csaló URL-t azonosított a hálózattal összefüggésben. A kár mértéke megdöbbentő: 2023 júliusa óta becslések szerint közel 1,9 milliárd dollárnyi veszteséget okozott a csoport tevékenysége a világgazdaságnak.

Ez az eset élesen rávilágít a modern technológia, és különösen az AI kettős felhasználású természetére. Bár az LLM technológiák eredeti célja a produktivitás növelése és a kreatív folyamatok támogatása, ezek az eszközök a kiberbűnözők kezében a csalások iparosítását teszik lehetővé. A Geminihez hasonló modellek segítségével a kevésbé képzett bűnözők is képesek lettek olyan, korábban jelentős szakértelmet igénylő támadásokat kivitelezni, amelyekkel korábban csak a legfejlettebb hackercsoportok próbálkozhattak. A belépési korlátok ilyen mértékű csökkenése új típusú biztonsági kihívások elé állítja mind a technológiai vállalatokat, mind a felhasználókat. A Google perindítása nem csupán a konkrét elkövetők felelősségre vonását célozza, hanem egyben üzenet is az iparágnak: a technológiai óriások aktívan fellépnek azért, hogy az általuk fejlesztett innovatív eszközök ne válhassanak a szervezett bűnözés eszközeivé, ezzel is védve a digitális ökoszisztéma integritását.