AI KUTATÁS
A Groq új specializált AI modelljei az élre törtek a teljesítményrangsorban
A Groq nevű AI startup nemrég két új nyílt forráskódú (open-source), eszközhasználatra specializált AI modellt jelentett meg, amelyek a legfontosabb funkcióhívási teszteken (benchmarks) megelőzték az olyan óriásokat, mint a GPT-4 Turbo, a Claude 3.5 Sonnet és a Gemini 1.5 Pro.
- A Groq két modellje, a Llama 3 Groq Tool Use 8B és 70B, a Meta Llama 3 modelljének finomhangolt változatai.
- A 70B-s verzió 90,76%-os pontosságot ért el a BFCL rangsorban, megszerezve az első helyet az összes zárt forráskódú és open-source modell között.
- A kisebb, 8B-s modell sem maradt el sokkal, a 89,06%-os pontosságával a harmadik helyet szerezte meg a ranglistán.
- A modelleket kizárólag szintetikus adatokon tanították, és elérhetőek a Groq API-n keresztül, valamint a Hugging Face felületén is.
Miért fontos?
A Groq az év elején elképesztő AI sebességével hívta fel magára a figyelmet – most pedig ezt a képességet csúcskategóriás, specializált modellekkel párosítja. A közel valós idejű sebesség és a magas szintű eszközhasználat szinte végtelen lehetőséget nyit meg az új innovációk és felhasználói alkalmazások előtt. ---