HÍREK A VILÁGBÓL
Az Nvidia bemutatja Groq-alapú inferencia chipjét OpenAI támogatással
Az Nvidia tervei szerint a jövő havi GTC konferencián egy új, inferencia-fókuszú processzort mutat be, amely a Groq chiptechnológiáját alkalmazza. Ez a lépés egy 20 milliárd dolláros licencmegállapodást követ az OpenAI-jal, amely az új hardver egyik fő vásárlója lesz, ahogy az iparág fókusza a modellek hatékony futtatása felé tolódik.
- Speciális Groq chiptechnológiát tartalmaz a gyorsabb inferencia érdekében.
- Az OpenAI megerősítetten az új processzor egyik fő vásárlója lesz.
- A bejelentést a GTC konferenciára ütemezték.
- Egy jelentős, 20 milliárd dolláros licencmegállapodás áll a háttérben.
Miért fontos?
A speciális inferencia hardverek válnak a következő nagy csatatérré, mivel a vállalatok a hatalmas AI modellek éles üzemeltetésének költségeit és késleltetését (latency) próbálják csökkenteni. ---