Fable 5.1 Promptolási útmutató: Szokások a hatékony ágensekhez

Az Anthropic frissen megjelent útmutatója a Claude 3.5 Sonnet modellhez kapcsolódóan új alapokra helyezi az ágensalapú munkafolyamatok optimalizálását. Bár a korábbi promptolási technikák többsége továbbra is hatékonyan alkalmazható, a hosszú ideig futó, komplex autonóm feladatoknál a fejlesztőknek érdemes új szokásokat kialakítaniuk. A útmutató legfőbb célja, hogy a felhasználók maximalizálják az ágensek teljesítményét, miközben jelentős mértékben csökkentik a működési költségeket, elkerülve a felesleges tokenfelhasználást és a redundáns folyamatokat.

A hatékonyság kulcsa az erőforrásokkal való tudatos gazdálkodásban rejlik. Az Anthropic javaslata szerint érdemes tesztelni a különböző erőfeszítési szinteket, hogy megtaláljuk az egyensúlyt a feladat bonyolultsága és a költségek között. A költségcsökkentés egyik leghatékonyabb módja a cache használata az ismétlődő utasításokhoz és dokumentumokhoz, amit azzal támogathatunk, ha a beszélgetési előzményeket kizárólag hozzáfűzéses, úgynevezett append-only módban kezeljük. Ez a módszer megőrzi a cache folytonosságát, így a modellnek nem kell újra feldolgoznia a már ismert kontextust. Szintén fontos technikai változás, hogy a beszélgetés közbeni frissítésekhez már nem a teljes rendszerprompt átírását, hanem célzott rendszerüzenetek alkalmazását ajánlják, a hosszú fájloknál pedig a teljes átírás helyett a célzott fájlszerkesztés a javasolt út, amivel drasztikusan csökkenthető az adatforgalom.

A felhasználói élmény és a megbízhatóság érdekében az ágensek viselkedésén is finomítani kell. Mivel a modell a hatékonyabb működés érdekében hajlamos kevesebbet narrálni, a hosszú folyamatoknál érdemes kifejezetten folyamatjelzéseket kérni tőle, hogy lássuk, hol tart a munka. A sebesség növelése érdekében a fejlesztőknek ajánlott kötegelni az eszközhívásokat, ezzel elkerülve az egy-hívás-per-kör típusú, időigényes hurkokat. Emellett ne feledkezzünk meg a modell kifejezett utasításáról a feladat teljes körű befejezésére vonatkozóan, különösen akkor, ha összetett, több lépésből álló munkafolyamatról van szó. A vizuális feladatoknál pedig, ahol sűrű képeket kell elemezni, a vágás és nagyítás funkciók engedélyezése segíti a pontosabb látást. Ezek a finomhangolások nem csupán a promptok tisztaságát javítják, hanem az egész ágens-architektúrát költséghatékonyabbá és stabilabbá teszik, ami elengedhetetlen a mai AI-vezérelt szoftverfejlesztésben.