Az AI-modellek tanítási költségei exponenciálisan emelkednek a milliárd dolláros határ felé
Az AI-iparág jelenleg egy olyan drasztikus pénzügyi átalakuláson megy keresztül, amely alapjaiban kérdőjelezi meg a piac további fejlődését és a technológiai versenyt. Míg 2017-ben egy korszakalkotó transformer modell betanítása mindössze 930 dollárba, azaz egy átlagos középkategóriás laptop árába került, napjainkra a költségek elszabadultak. A Visual Capitalist legfrissebb adatai szerint az iparág exponenciális növekedési pályára állt, ahol a milliárd dolláros tanítási költségek már nem sci-fi kategóriába tartozó becslések, hanem a közeli jövő valóságának részei. Ez a tendencia azt jelzi, hogy a mesterséges intelligencia fejlesztése immár kizárólag azoknak a globális technológiai óriásoknak a privilégiuma, amelyek rendelkeznek a szükséges elképesztő tőkével.
A költségek robbanásszerű emelkedése mögött a modellek egyre nagyobb komplexitása és a hatalmas számítási kapacitás iránti igény áll. Jól szemlélteti ezt az inflációt, hogy 2023-ban a Google Gemini Ultra modelljének tanítása már meghaladta a 191 millió dollárt, miközben az OpenAI GPT-4 modelljének fejlesztése több mint 78 millió dollárt emésztett fel. Bár a Meta Llama-2 modellje a maga 4 millió dollár alatti költségével még kedvező alternatívának tűnt, a szakértők szerint ez a korszak lezárult. Nathan Lambert gépi tanulási szakértő szerint a Llama-2 utódjának kiképzése már közel 100 millió dollárba kerülhetett, és a fejlődés ütemét látva a Llama 4 esetében az 1 milliárd dolláros határ átlépése is elkerülhetetlennek tűnik. Egyes szakértői előrejelzések szerint pedig a közeljövőben érkező GPT-5 tanítása már akár a 2,5 milliárd dolláros összeget is elérheti.
Ez a drasztikus drágulás rendkívül magas belépési korlátot emel a piac elé, ami hosszú távon az iparág polarizációjához vezethet. Míg az open-source közösség és a kisebb startupok korábban érdemi versenyre kelhettek a nagyokkal, az ilyen mértékű befektetésekhez szükséges infrastruktúra és GPU-kapacitás ma már csak a leggazdagabb tech-cégek számára érhető el. A kérdés már nem az, hogyan lehet hatékonyan tanítani egy modellt, hanem az, ki tudja megfizetni azt a gigantikus infrastruktúrát, amely a további minőségi ugrásokhoz szükséges. Ezzel az AI-fejlesztés egy olyan irányba mozdult el, ahol a pénzügyi erőforrások legalább olyan meghatározó tényezővé váltak, mint az algoritmikus tudás vagy az adatok minősége.
- Az eredeti transformer modell betanítása 2017-ben mindössze 930 dollárba került.
- A Gemini Ultra tanítási költségei 2023-ban elérték a 191 millió dollárt.
- A GPT-4 tanítása több mint 78 millió dollárba került.
- A becslések szerint a Llama 4 tanítása több mint 1 milliárd dollárba kerülhet.
- A GPT-5 tanítási költségei akár a 2,5 milliárd dollárt is elérhetik.
A legmodernebb modellek tanítási költségeinek drasztikus emelkedése magas belépési korlátot hoz létre, ami potenciálisan a leggazdagabb technológiai óriásokra korlátozhatja a legerősebb AI-fejlesztéseket. ---