A Perplexity elindította a Llama 3.3-ra épülő, rendkívül gyors Sonar modelljét

A Perplexity bejelentette a saját fejlesztésű Sonar AI-modelljének legújabb verzióját, amely a Llama 3.3 70B modellre épül. Az új konstrukció elképesztő sebességre képes: másodpercenként nem kevesebb, mint 1200 tokent generálva nyújt válaszokat a felhasználók számára. A modell nemcsak a gyorsaságával tűnik ki a piacon, hanem kiváló hatékonyságával is, ugyanis a pontossági teszteken eléri vagy akár meg is haladja a jelenlegi legnépszerűbb csúcsmodellek szintjét, miközben az üzemeltetési költségei azok töredékét teszik ki.

Ez a rendkívüli teljesítmény elsősorban a Cerebras következtetési (inference) infrastruktúrájának köszönhető, amely szinte azonnali válaszgenerálást tesz lehetővé a háttérben. A Sonar a mérések szerint tízszer gyorsabb válaszadásra képes, mint a közvetlen versenytársnak számító Gemini 2.0 Flash modell. A tesztek során az új Sonar felülmúlta az OpenAI által fejlesztett GPT-4o és az Anthropic Claude 3.5 Sonnet modelljeit is, különösen a felhasználói elégedettség, a tényszerűség és a világismeret terén, ami rendkívül komoly eredménynek számít.

A frissítés előnyeit a felhasználók azonnal megtapasztalhatják, mivel minden Perplexity Pro előfizető számára már mostantól ez az új Sonar modell érhető el alapértelmezettként. A fejlesztők ráadásul azt is ígérik, hogy hamarosan az API-hozzáférés is megérkezik ugyanezzel a villámgyors architektúrával. A bejelentéssel párhuzamosan Aravind Srinivas, a Perplexity vezérigazgatója egy másik izgalmas újdonságot, a Voice Mode-ot is beharangozta. Kijelentette, hogy ez lesz az egyetlen olyan termék, amely teljesen ingyenesen és megbízhatóan kínál majd valós idejű, hangalapú válaszokat és információkat.

A Perplexity ezzel a lépéssel egyértelművé tette, hogy elképesztő tempót diktál a mesterséges intelligencia piacán, hiszen mindössze három héttel a Sonar első leleplezése után máris bevezette ezt a szupergyors új modellt. A rendkívül alacsony válaszidő, valamint a piacvezető modelleket is leköröző megbízható és tényszerű teljesítmény révén a startup komoly lépéseket tesz az AI-piac egyre nagyobb szeletének megszerzéséért, miközben teljesen átformálhatja a digitális információszerzés jövőjét.