AI ÁGENSEK
A Factory AI ágense hatalmas, 80 millió tokenes kontextusablakot mutatott be
A Factory AI egyik felhasználója egy olyan kódolási folyamatot futtatott le, amely elérte a 80 millió tokent… és az ágens még mindig emlékezett rá, min dolgozott. A tokenek olyan szövegrészletek, amelyeket az AI feldolgoz, így a 80 millió nagyjából 60 millió szónak felel meg; ez RENGETEG.
Leültünk a Factory AI társalapítójával, Eno Reyes-szel, hogy megtudjuk, hogyan építettek ilyen hatékony kontextus-tömörítő rendszert (amely az OpenAI-t és az Anthropic-ot is felülmúlta). Emellett arról is beszélgettünk, hogyan hozták létre a tökéletes ágens-alapú kódoló eszközt valódi produkciós kódalapokhoz, egy Stanford-kutatásra alapozva, amely szerint a kódminőség az egyetlen előrejelzője az AI kódolási sikerének.
- A rendszer sikeresen kezelt körülbelül 60 millió szó kiterjedésű kontextust, miközben megőrizte a feladathoz kapcsolódó memóriát.
- Az ágens-alapú kódoló eszköz olyan kontextus-tömörítési technológiával készült, amely túlszárnyalta az OpenAI és az Anthropic vezető modelljeit.
- Az eszközt kifejezetten valódi produkciós kódalapokhoz tervezték, nem pedig elszigetelt kódrészletekhez.
- A fejlesztés egy Stanford-kutatáson alapult, amely szerint a kódalap minősége az AI-alapú kódolás sikerének elsődleges tényezője.