A Google kutatása szerint a „prompt ismétlés” egy egyszerű pontosságnövelő módszer
A Google Research új tanulmánya arra utal, hogy az egyre bonyolultabb promptek használatának elterjedt gyakorlata talán túl van lihegve. A kutatók megállapították, hogy egy prompt egyszerű megismétlése – amit „prompt repetition” néven említenek – 70-ből 47 benchmark teszten győzedelmeskedett olyan nagy modellek esetében, mint a Gemini, a GPT-4o és a Claude. Egyes feladatoknál a pontosság akár 76 százalékponttal is megugrott.
- A stratégia lényege a prompt másolása és beillesztése, hogy az kétszer szerepeljen egyetlen lekérdezésben
- Gemini, GPT-4o, Claude és DeepSeek modelleken tesztelték
- A pontosság akár 76 százalékponttal javult a válaszidő (latency) növekedése nélkül
- Azért működik, mert az LLM-ek balról jobbra olvasnak; az ismétlés lehetővé teszi a tokenek számára, hogy „visszatekintsenek” a teljes kontextusra
- Különösen hatékony komplex feladatoknál, ahol az LLM-ek hajlamosak átsiklani a korai kontextus felett
Miért fontos?
Ez a felfedezés gyakorlatilag egy „ingyen” módszert kínál az LLM-ek teljesítményének növelésére, anélkül, hogy bonyolult prompt engineering-re vagy magasabb számítási költségekre lenne szükség. ---
Kapcsolódó hírek