AI agenti, kteří se učí z vlastních chyb
mlj.solutions
mlj.solutions AI se může učit z chyb, ale jen když jí to dovolíte. FORGE: po každé chybě agent provede reflexi a uloží si ji do paměti. Po 10–20 cyklech: o 40–60 % méně chyb. Bez přetrénování modelu. 👉 Jak pracujete se zpětnou vazbou u AI agentů ve vaší firmě?
Zobrazit na Instagramumlj.solutions
mlj.solutions Představte si AI agenta, který si dělá chyby. A pak si z nich dělá poznámky. FORGE (Framework for Observing, Reflecting, and Generalizing Errors) funguje takto: po každé chybě agent provede reflexi - co se pokazilo, proč, jak se tomu vyhnout příště. Po 10–20 cyklech dělají agenti o 40–60 % méně chyb. Bez přetrénování modelu. Jen změnou vlastní paměti. AI se může učit z chyb, ale jen když jí to dovolíte. 👉 Myslíte, že AI má mít schopnost se poučit z vlastních chyb?
Zobrazit na InstagramuO čem studie je
Co když se AI agent dokáže zlepšovat jen tím, že si pamatuje vlastní chyby, bez přetrénování modelu? Studie FORGE testuje skupinu agentů, kteří si z neúspěchů tvoří pravidla a příklady a ty nejlepší sdílejí mezi sebou. Vše ověřili na simulované kybernetické obraně počítačové sítě.
Statistiky
1,7 až 7,7×
lepší výsledek než základ
FORGE zlepšil průměrný výsledek agentů oproti modelu bez jakékoli naučené paměti, a to u všech čtyř testovaných modelů.
29 až 72 %
lepší než Reflexion
Oproti přístupu, kde se každý agent učí izolovaně sám, přinesla sdílená paměť výrazné zlepšení ve všech 12 testovaných kombinacích.
1 %
závažných selhání
Podíl velkých selhání klesl až na zhruba jedno procento, přestože na začátku všechny modely dosahovaly silně záporných výsledků.
Co z toho vyplývá
- Agent se může zlepšovat bez přetrénování, stačí textová paměť, do které si ukládá poučení z neúspěchů.
- Sdílení paměti nese hlavní přínos, nejlepší poznatky se přenášejí mezi agenty a právě to táhne výkon nahoru.
- Pravidla jsou levnější, příklady silnější, pravidla vyžadují zhruba o 40 % méně tokenů, příklady dávají u většiny modelů nejlepší výsledky.
- Slabší modely těží nejvíc, metoda může zmenšovat rozdíl mezi menšími a špičkovými modely.
- Výsledky zatím platí jen pro jedno prostředí, autoři sami uvádějí, že jde o směrové zjištění z jednoho scénáře kybernetické obrany.
Náš pohled
Zlepšit agenta nemusí znamenat přetrénovat model. Často stačí dobře navržená paměť, do které se ukládají poučení z chyb. Právě takové vrstvy navrhujeme pro firemní agenty.
Zdroj
Bogdanov, I., Lung, C.-H., Kunz, T., Gao, J., Taylor, A., & Zaman, M. (2026). FORGE: Self-Evolving Agent Memory With No Weight Updates via Population Broadcast. arXiv:2605.16233. https://arxiv.org/abs/2605.16233
Nepřehlédněte další příspěvky
AI, která ví, kdy si není jistá
Studie CPR ukazuje, jak statisticky ověřit, že mezi odpověďmi AI nad znalostními grafy je ta správná, a zároveň zkrátit jejich seznam.
AI doporučuje lék, který neexistuje
Myslíš si, že jsi anonymní, když si smažeš jméno?
Chcete AI implementovat ve vaší firmě?
Projdeme spolu vaše potřeby a navrhneme přístup, který přinese měřitelné výsledky.
Napište nám
