A Princeton új GPU-fürtje rávilágít a Big Tech cégekkel szembeni növekvő számítási kapacitásbeli szakadékra
Ezen a héten a Princeton bejelentette, hogy egy 300 darab NVIDIA H100 GPU-ból álló fürt beüzemelésére készül. Egy sajtóközleményben az egyetem kijelentette, hogy a fürt „az AI-kutatás kritikus időszakában érkezik, amikor az ipar hatalmas számítási erőforrásai határozzák meg leginkább az AI-diskurzus irányát. A több millió dolláros beruházást elsősorban az egyetemi alapítvány finanszírozta.” Ha feltételezzük, hogy egy H100 ára körülbelül 30 000 dollár, akkor a Princeton tőkebefektetése nagyjából 9 millió dollár. Összehasonlításképpen a Facebook (Meta) az év elején közölte, hogy az év végére 350 000 H100 GPU-val fog rendelkezni – ami nagyjából 10 milliárd dolláros ráfordítást jelent.
- A Princeton egy 300 darab NVIDIA H100 GPU-ból álló fürtbe fektet be.
- A beruházást elsősorban az egyetemi alapítványi tőkéből finanszírozták.
- A Meta várható 350 000 darabos H100 GPU-flottája 10 milliárd dolláros befektetést jelent.
- A legfejlettebb (frontier) AI-modellek betanítása jelenleg 10 000-nél is több GPU-ból álló fürtöket igényel.
A Princeton fürtje arra kényszeríti az egyetemet, hogy apró betanítási folyamatokat végezzen, amelyek messze elmaradnak a kereskedelmi élvonaltól. Ez rávilágít arra, hogy miközben a vállalatok exponenciálisan növelik az AI-rendszerek tanításához szükséges infrastruktúrára szánt kiadásaikat, az egyetemek messze lemaradnak a technológiai fejlődés frontvonalától. Végső soron ez csökkenti a demokratikus beleszólás lehetőségét a legmodernebb technológiák alakításába.