Technológiai óriások létrehozták az UXL Foundation-t az Nvidia chipmonopóliumának megtörésére

Ha egy vállalatnak szoftverre van szüksége generatív AI-modelljei futtatásához, a választási lehetőségei ma szinte egyetlen opcióra korlátozódnak: az Nvidia CUDA-jára. És mivel a CUDA platform kizárólag az Nvidia nagy teljesítményű GPU-ihoz kötődik, kitalálható, kitől kell megvásárolni a hardvert, hogy az egész működjön. Ez azonban hamarosan megváltozhat – ha az UXL Foundation néven ismert technológiai vállalatokból és kutatókból álló konzorcium eléri célját. Az elképzelés: egy olyan nyílt forráskódú (open-source) szoftverkód létrehozása, amely minden típusú hardverplatformon és chipen működik. A terv véget vetne az AI-cégek függőségének az Nvidia saját technológiájától.

Kik vesznek részt benne? Ki nem? Az Amazon Web Services és a Microsoft Azure is hírek szerint hozzájárul chipgyártási tapasztalataival a kezdeményezéshez. Az Intel fejlesztette ki az OpenAPI technológiát, amely a platform alapköve lesz. A Qualcomm és a Google szintén kulcsfontosságú partnerek. Legalább 93 másik csoport dolgozik saját nyílt forráskódú szoftverprojekteken.

Ahhoz, hogy ez a terv működjön, más chipeknek is rendelkezésre kell állniuk az AI-fejlesztők számára. Az Nvidia GPU-it eredetileg videojátékokhoz és grafikai tervezéshez használták. Bár jelenleg ezek a legjobb opciók az AI számára, a kritikusok szerint van még hova fejlődni. Itt jön a képbe a MatX. A két korábbi Google-alkalmazott által alapított Silicon Valley-i startup azt állítja, hogy egyetlen nagy feldolgozómaggal rendelkező chipeket építenek – ez az a rész, amely a leghasznosabb az AI-tervezők számára. Állításuk szerint ezek akár tízszer hatékonyabbak lehetnek az LLM-ek tanításában. A MatX előnye, hogy kicsi és agilis: „a legnagyobb vállalatoknál kifejlesztett legjobb ötleteket veszik át, amelyek ott kicsit túl lassan és bürokratikusan mozognak, és saját maguk értékesítik azokat” – mondta egy befektető a Bloombergnek.