MI Történik?

A Facebook részleteket tett közzé arról a szoftverről, amelyet azért épített, hogy több mint 100 ezer GPU-t futtasson együtt nagyméretű AI rendszerek tréningezéséhez. Az NCCLX szoftver azért érdekes, mert egy technológiai szignatúra a mai technológiai óriások kormányt felülmúló kifinomultságáról, hasonlóan egy cápauszonyhoz, amelyet egyébként nyugodt vizeken pillantunk meg. „A keretrendszer komplex munkaterhelések támogatására készült 100 000 GPU-t meghaladó klasztereken” – írja a Facebook. „A tréning során hatalmas GPU klaszterek szinkronban működnek az alapmodell tréningezéséhez, gyakran elérve a 100 000+ GPU skálát a legmodernebb munkaterhelésekhez.” Az NCCLX az NVIDIA Collective Communications Library (NCCL) erősen testreszabott változata. Az NCCL kutatási cikk nagy része arról szól, hogy a Facebooknak mit kellett tennie ahhoz, hogy a szoftver a Facebook méretén működjön, aminek nagy része egyedi hálózati szoftverek fejlesztését foglalja magában. Az NCCLX infrastrukturális építési módjának testreszabásának köszönhetően a Facebook bizonyos hatékonyságot tudott elérni: „A tréning során az NCCLX akár 12%-kal csökkentette a Llama 4 modellek minden stabil tréning lépésének késleltetését különböző skálákon.” (Sajnos a Llama 4 modellek nem voltak túl jók, de ez nem releváns ennél a cikkél.)