AI INFRASTRUKTÚRA
Egy startup 250 millió dollárt gyűjtött, hogy megtörje az NVIDIA 17 éves szoftverplatform-függőségét
Az NVIDIA értéke ma már meghaladja a 4 billió dollárt; ez a világ legértékesebb vállalata. Miért? Elsősorban azért, mert ők gyártják a világ legjobb AI-chipjeit (GPU-it). Ez a narratíva az utóbbi időben kissé megrendült, mivel rengeteg szó esett arról, hogy a Google Gemini 3.0 sikeres elindítása hogyan tette az új Ironwood TPU AI-chipjeit az NVIDIA valódi versenytársává. De a kiváló chipek nem az egyetlen ok, amiért a fejlesztők nem tudják elhagyni az NVIDIA-t. A valódi kötöttség? Egy 17 éves szoftverplatform, a CUDA. Ez a cég, a Modular, most 250 millió dollárt gyűjtött, hogy megtörje ezt. Tim Davis – a Modular társalapítója és a Google Brain korábbi munkatársa – elmagyarázza, miért alapjaiban hibás az AI infrastruktúra, és mit épít a csapata a javítására. Kényesebb területeket is érintünk: vajon az LLM-ek felskálázása-e a helyes út a szuperintelligenciához? Tim szerint nem.
- Hardver vs. szoftver: Mi korlátozza valójában az AGI-t?
- Valóban intelligensek az LLM-ek? Tim azzal érvel, hogy az emberi szövegeken tanított autoregresszív modellek nem jelentenek utat a szuperintelligenciához.
- Az önvezető autók problémája: Miért van szüksége az intelligenciának sebességre, és miért nem juttatnak el minket oda a CPU-k?
- Bemutatkozik a Mojo: Az új programozási nyelv, amellyel egyszer kell megírni a kódot, és bármilyen GPU-n futtatható (nem csak NVIDIA-n).
- Az „AI számítási hipervizor”: Egy egységes platform víziója, ahol a szoftver határozza meg a legjobb hardvert.
- Esettanulmány: Az InWorld négyszeres teljesítményt és 70%-os költségcsökkentést ért el a Modular használatával NVIDIA Blackwell gépeken.
- A CUDA-függőség megtörése: Miért partnerkedik még az NVIDIA is a Modularral, és mi a szilícium-verseny hatása.
- A híd-analógia: Az AI tömeges méretű bevetése anélkül, hogy értenénk, hogyan is működik valójában.
Miért fontos?
Miközben mindenki azon vitatkozik, melyik modell a legokosabb, a háttérben egy csendes infrastruktúra-forradalom zajlik. A Modular arra fogad, hogy az AI jövője nem egyetlen chipgyártóhoz való kötöttségről szól, hanem olyan szoftverekről, amelyek az összes hardvert képessé teszik az együttműködésre. ---