A Google bemutatta az ultra-hatékony Gemma 3-at, amely egyetlen GPU-n is futtatható
A Google bemutatta az ultra-hatékony Gemma 3-at, amely egyetlen GPU-n is futtatható
A Google hivatalosan is leleplezte a legújabb, ultra-hatékony nyílt forráskódú AI-modellcsaládját, a Gemma 3-at. Az új generációs modellek ugyanarra a fejlett technológiára épülnek, mint a vállalat zászlóshajójának számító Gemini 2.0, azonban kifejezetten úgy tervezték őket, hogy rendkívül erőteljes teljesítményt nyújtsanak, miközben akár egyetlen GPU vagy TPU erőforrásaival is hatékonyan futtathatók. A Gemma 3 megjelenése komoly mérföldkövet jelent a technológiai piacon, mivel sikeresen hidat képez a hatalmas számítási kapacitást igénylő nagy nyelvi modellek és a helyi hardvereken is futtatható, könnyűsúlyú rendszerek között, új lehetőségeket nyitva a fejlesztők számára.
A Google a sokszínű felhasználói igényekhez igazodva négy különböző méretben tette elérhetővé a modellcsaládot: az 1B, 4B, 12B és 27B paraméteres verziók a legkülönbözőbb hardverkonfigurációkra lettek optimalizálva, így a kisebb mobiltelefonoktól kezdve a hordozható laptopokig szinte bármilyen eszközön bevethetők. A leginkább lenyűgöző eredményt a legnagyobb, 27B jelzésű modell érte el, amely az LMArena ranglistáján végzett, emberi preferenciákon alapuló értékelések során képes volt felülmúlni olyan jóval nagyobb méretű versenytársakat is, mint a Llama-405B, a DeepSeek-V3, vagy éppen az o3-mini modellek. A rendkívüli hatékonyság mellett a Gemma 3 tekintélyes, 128K tokenes kontextusablakkal rendelkezik, natívan támogat 140 különböző nyelvet, valamint fejlett multimodális képességekkel büszkélkedhet, amelyek segítségével képek, szövegek és rövid videók komplex elemzésére is alkalmas.
Az új modellek mellett a Google kiemelt figyelmet fordított a biztonságra is, és a bemutatóval egy időben kiadta a ShieldGemma 2 nevű rendszert. Ez egy kifejezetten képi biztonsági ellenőrzésre tervezett, 4B paraméteres modell, amely képes hatékonyan kiszűrni a nemkívánatos és kifejezett tartalmakat, ráadásul rendkívül könnyen integrálható a legkülönbözőbb vizuális alkalmazásokba. A Gemma 3 teljesítménye azért is számít igazán lenyűgöző vívmánynak, mert a modellek sikeresen érték el az open-source rendszerek egy korábban szinte elképzelhetetlennek hitt ideális pontját. Mivel egyetlen GPU-n futva képesek legyőzni a méretben és számítási kapacitásban is jóval nagyobb rendszereket, egyszerre bizonyulnak rendkívül erősnek, gyorsnak és multimodálisnak. Mindez lehetővé teszi, hogy a legmodernebb AI technológia közvetlenül az eszközök széles körén legyen telepíthető, ami alapjaiban változtathatja meg a piacot.
- A modellcsalád négy méretben (1B, 4B, 12B és 27B paraméterrel) érhető el, a telefonoktól a laptopokig különböző hardverkonfigurációkra optimalizálva.
- A 27B modell felülmúlja a nagyobb versenytársakat, mint például a Llama-405B, a DeepSeek-V3 és az o3-mini modelleket az LMArena ranglistáján végzett emberi preferencián alapuló értékelésekben.
- Az egyéb új képességek közé tartozik a 128K tokenes kontextusablak, a 140 nyelv támogatása, valamint a multimodális képességek a képek, szövegek és rövid videók elemzésére.
- A Google kiadta a ShieldGemma 2-t is, egy 4B paraméteres képi biztonsági ellenőrzőt, amely képes kiszűrni a kifejezett tartalmakat – könnyű integrációval a vizuális alkalmazásokba.
- Miért fontos: A Gemma 3 teljesítménye lenyűgöző, mivel legyőzi a méretben és számítási kapacitásban is jóval nagyobb rendszereket. Mivel egyetlen GPU-n futnak, ezek a modellek elérték az open-source rendszerek egy korábban elképzelhetetlen ideális pontját: egyszerre erősek, gyorsak, multimodálisak és elég kicsik ahhoz, hogy eszközök széles körén telepíthetők legyenek – ez egy igazán hatalmas vívmány.
Gemma 3’s performance is mind-blowing, beating out top-level systems that dwarf it in both size and compute. Running on just a single GPU, these models hit a once incomprehensible sweet spot of being open-source, powerful, fast, multimodal, and small enough to be deployed across devices — a truly massive feat.