Az Edge AI felemelkedése veszélyeztetheti a Big Tech infrastruktúra-robbanását
Miközben a Big Tech több százmilliárd dollárt költ az AI-hoz szükséges hatalmas adatközpontokra, az "Edge AI" felé való elmozdulás megváltoztathatja az iparág pályáját. Az Edge AI, vagyis az eszközön történő következtetés (inference) akkor valósul meg, amikor az AI modellek távoli szerverek helyett helyben, a hardveren futnak. Az Apple nagyot fogad erre a váltásra az Apple Intelligence-szel, amely helyi alapmodellekre épül.
- A Big Tech infrastruktúra-kiadásai az előrejelzések szerint 2025-ben elérik a több százmilliárd dollárt
- Az Edge AI lehetővé teszi a modellek helyi futtatását telefonokon és laptopokon
- A kisméretű nyelvi modellek (SLM-ek) már felveszik a versenyt a sokkal nagyobb modellek teljesítményével
- Az Apple Intelligence egy 3 milliárd paraméteres modellt használ, amely közvetlenül az eszközökre épül
- A helyi feldolgozás nagyobb adatvédelmet kínál, és megszünteti a fejlesztők következtetési költségeit
Miért fontos?
Ha az Edge AI a vártnál gyorsabban fejlődik, az az AI infrastruktúra-kiadások éles visszaesését válthatja ki – ez a forgatókönyv drámai hatással lenne a Big Tech részvényekre és a hardverigényre.