A Hugging Face elindította a SmolLM sorozatot az eszközön futtatható nyelvi modellekhez
A Hugging Face megjelentette a SmolLM sorozatot, amely egy új, korszerű, eszközön futtatható (on-device) multimodális Large Language Model széria. Ezeket a modelleket arra tervezték, hogy nagy teljesítményű AI képességeket tegyenek elérhetővé korlátozott hardveres erőforrásokkal rendelkező helyi eszközökön, például telefonokon és laptopokon, felhőkapcsolat nélkül.
- 135M, 360M és 1,7B paraméteres méretekben érhető el
- Saját súlycsoportjában felülteljesíti a nagyobb modelleket, mint a Phi-1.5 és a Qwen2
- On-device és edge computing feladatokra optimalizálva
- Magas hatékonyságra és alacsony memóriahasználatra tervezve
Miért fontos?
A kisméretű, hatékony modellek elengedhetetlenek az adatvédelem, az offline működés és a nagyobb LLM-ekhez kapcsolódó hatalmas felhőalapú számítási költségek csökkentése érdekében.
Kapcsolódó hírek
Az Apple bemutatja a Ferret-UI 2-t az automatizált mobil- és webes feladatvégrehajtáshoz
2024. október 31.
A Runway bemutatja az Act-One eszközt a kifejező karakteranimációkhoz
2024. október 24.