A Microsoft bemutatja egyedi Maia 100 és Cobalt 100 AI chipjeit
Az Ignite 2023 konferencián a Microsoft hivatalosan is leleplezte első egyedi tervezésű AI és felhő chipjeit, az Azure Maia 100-at és az Azure Cobalt 100-at. A Maia 100 egy AI gyorsító, amelyet kifejezetten nagy nyelvi modellek tanítására és következtetésére (inference) optimalizáltak, szoros együttműködésben az OpenAI-jal, hogy javítsák az olyan szolgáltatások teljesítményét, mint a Bing és a ChatGPT.
A Cobalt 100 egy 128 magos, Arm-alapú CPU, amelyet általános célú felhőalapú munkaterhelésekre szabtak az Azure-on. Saját szilícium fejlesztésével a Microsoft célja, hogy jobb ár-teljesítmény arányt biztosítson ügyfeleinek, és csökkentse függőségét a külső hardverszállítóktól, például az NVIDIA-tól a jelenlegi AI számítási kapacitáshiány idején.
- A Maia 100 105 milliárd tranzisztort tartalmaz, és a TSMC 5nm-es eljárásával készül
- A Cobalt 100-at nagy hatékonyságú, általános felhőszolgáltatásokhoz tervezték
- A chipek a Microsoft végpontok közötti AI infrastruktúrájának optimalizálására épültek
- A Microsoft az NVIDIA H200-at és az AMD MI300X-et is integrálja a flottájába
- A kezdeti bevezetés a Microsoft saját, elsődleges munkaterheléseire összpontosít
Miért fontos: Saját chipek építésével a Microsoft jelentősen csökkentheti az NVIDIA-tól való függőségét, mérsékelheti a Copilot és az Azure AI működési költségeit, és optimalizálhatja a teljesítményt a teljes szoftverrendszerében. ---