AI FEJLESZTÉS
A Mistral API-t és SDK-t adott ki a könnyűsúlyú modell-finomhangoláshoz
A Mistral egy sorsfordító fine-tuning API-t és SDK-t jelentetett meg, hogy segítse a fejlesztőket a Mistral változatok egyszerű finomhangolásában egyetlen GPU-n. Klónozás, előkészítés, tanítás. Az SDK egy könnyűsúlyú GitHub repozitórium, amely a LoRA technikát használja, lehetővé téve a memória-hatékony tanítást a legtöbb modellsúly rögzítésével és csak az 1-2%-uk frissítésével alacsony rangú mátrix-perturbációk révén. Több-GPU-s rendszerekre optimalizálták, de használható egyetlen GPU-val is a kisebb modellekhez, mint például a 7B. Ez a repozitórium célirányos a finomhangolási folyamat egyszerűsítése érdekében, a Mistral modellekre és specifikus hardverekre összpontosítva. Tartalmaz egy Colab notebookot is az azonnali kezdéshez.
- Klónozza a repót és telepítse a függőségeket
- Töltse le és készítse elő a modellt és az adatokat
- Ellenőrizze és indítsa el a tanítást néhány egyszerű paranccsal