Mira Murati cége, a Thinking Machine Labs bemutatta a Tinker Fine-Tuning API-t
A Thinking Machine Labs, a korábbi OpenAI CTO, Mira Murati által alapított új vállalat kiadta első termékét, a Tinkert. A Tinker egy kifejezetten olyan kutatók számára tervezett fine-tuning API, akik nagy modellekkel (10 milliárd paraméter felett) dolgoznak, és egyedi algoritmusokat, illetve adatokat szeretnének tesztelni a komplex háttérinfrastruktúra kezelése nélkül.
- Alacsony szintű primitíveket (mint a forward_backward és a sample) tesz elérhetővé a kutatók fejlettebb irányítása érdekében.
- A LoRA (Low-Rank Adaptation) módszerre összpontosít a nagyméretű modellek hatékony finomhangolásához.
- Olyan felhasználók számára készült, akiknek nagyobb kontrollra van szükségük a standard API-knál, de kevesebb többletmunkát akarnak, mint a nyers infrastruktúra esetében.
- Úgy építették fel, hogy a 10 milliárd paraméternél jelentősen nagyobb modelleket is kezelni tudja.
Miért fontos?
Ahogy nő az igény a specializált és finomhangolt modellek iránt, a Tinker köztes megoldást kínál a kutatóknak a magas szintű primitívekkel való kísérletezésre az AI infrastruktúra-csomag fenntartásával járó technikai nehézségek nélkül. ---