Az OpenAI jelentős árcsökkentést jelentett be a GPT modellcsalád esetében
Az új GPT-4 Turbo API 2,75-ször olcsóbb lesz, mint a GPT-4. Ugyanez vonatkozik a GPT-3.5 Turbo 16k modellre is. A GPT-3.5 4k kontextusú verzióját használó fejlesztők szintén 33%-os csökkenést tapasztalhatnak. A finomhangolt (fine-tuned) GPT-3.5 Turbo 4K modell bemeneti tokenjeinek (input tokens) ára pedig a harmadára csökkent.
- A GPT-4 Turbo API 2,75-ször olcsóbb a standard GPT-4-nél
- A GPT-3.5 Turbo 16k modell árai hasonló mértékben csökkentek
- A standard GPT-3.5 4k kontextusú verzió ára 33%-kal mérséklődött
- A finomhangolt GPT-3.5 Turbo 4K bemeneti tokenjeinek ára a harmadára csökkent
Miért fontos?
A GPT-alapú alkalmazások készítői folyamatosan figyelik az alkalmazásaik üzemeltetési költségeit. Az olcsóbb generálás magasabb haszonkulcsot jelent, a jobb margók pedig több innovációt tesznek lehetővé. A lényegesen olcsóbb finomhangolt modellek csökkentik a hosszú kontextusablakokra és a RAG alkalmazásokra nehezedő nyomást is. ---