A PrismML bemutatta az eddigi legnagyobb, iPhone-on futtatható AI-modellt

A technológiai világ egyik legizgalmasabb határa a hordozható eszközökön futtatható mesterséges intelligencia, és a PrismML nevű AI-labor most óriási lépést tett ezen a területen. A cég hivatalosan is bemutatta a Bonsai 27B modellt, amely az Alibaba által fejlesztett, nagy népszerűségnek örvendő open-source Qwen3.6 27B nagyméretű nyelvi modell jelentősen tömörített változata. Az innováció valódi áttörése abban rejlik, hogy a mérnököknek sikerült az eredetileg 54 GB-os modellméretet drasztikusan, 4 GB alá szorítaniuk, miközben megőrizték annak működőképességét. Ez a technikai bravúr lehetővé teszi, hogy az AI immár az iPhone 17 Pro vagy annál újabb készülékek hardveres erőforrásait kihasználva, közvetlenül a telefonon fusson, jelentősen növelve ezzel az adatvédelmet és a válaszidőt.

A Bonsai 27B megjelenése mérföldkőnek számít az on-device AI technológiák evolúciójában. A hagyományos LLM modellek használata eddig szinte kivétel nélkül felhőalapú számításokat igényelt, mivel a méretesebb modellek futtatásához szükséges GPU teljesítmény és memória sokszor messze meghaladta a mobilkészülékek kapacitását. A PrismML technológiája azonban új utakat nyit meg azáltal, hogy a modell tömörítésével lokálisan is elérhetővé teszi a bonyolultabb nyelvi feldolgozást. Ez a megközelítés nemcsak a internetfüggetlen működést teszi lehetővé, de az adatbiztonság szempontjából is kiemelt jelentőséggel bír, hiszen a felhasználó által bevitt információk nem hagyják el a készüléket.

A technológia iránti érdeklődés már a szakmai körökön is túlnőtt, hiszen a hírek szerint az Apple is vizsgálja a PrismML tömörítési eljárását. Babak Hassibi, a PrismML vezérigazgatója elmondta, hogy a fejlesztésük iránt mutatott érdeklődés megerősíti azt a technológiai irányt, amely a jövő okostelefonjait az AI-számítások elsődleges központjává teszi. Amennyiben az Apple sikeresen integrálja vagy adaptálja ezt a tömörítési megoldást a saját ökoszisztémájába, az alapjaiban változtathatja meg azt, hogyan használjuk a mesterséges intelligenciát a mindennapokban. A PrismML sikere azt bizonyítja, hogy az algoritmusok hatékonyságának növelése ugyanolyan fontos tényező az AI-versenyben, mint maguknak a modelleknek a teljesítménye, és a Bonsai 27B lehet az első olyan megoldás, amely valóban elérhetővé teszi a nagyvállalati szintű intelligenciát a zsebünkben.