Bezpečnost
AI agenti, kteří se navzájem kontrolují
mlj.solutions
mlj.solutions AI agenti ve firmě mohou řešit složité procesy. Ale co když jeden selže? 🕵️♂️ POIROT: místo externího hodnotitele se agenti vyslýchají navzájem. Každý má jinou roli a jiný pohled - výsledkem je lepší fault detection než centrální LLM soudce. 🔍 Jak máte řešenou auditovatelnost ve vašich agentních systémech?
Zobrazit na Instagramumlj.solutions
mlj.solutions POIROT testovali na 122 “zločinech” 🔍 Výsledek: o 12–28 % lepší odhalení viníka než klasický jeden vyšetřovatel. 🕵️ Nejlepší detektiv AI selhání nakonec nebyl člověk. Ani externí model. Byl to sám systém, který se dokázal ohlídat. 👉 Řešíte podobné “zločiny” ve svých AI systémech? Než na to pošlete detektiva zvenku, možná stačí, aby se agenti začali ptát sami sebe. Pokud tě zajímá víc, sleduj nás, nebo nám rovnou napiš!📲
Zobrazit na InstagramuO čem studie je
POIROT je protokol pro multi-agentní systémy, kde agenti sami diagnostikují chyby a určují, který agent selhal, místo externího hodnotitele funguje kolektivní inteligence systému.
1,60×
vyšší přesnost při složitých úlohách
POIROT překonává jednoduchého LLM hodnotitele, přičemž výhoda roste s komplexitou problému.
42 %
více správně identifikovaných selhání
V klinickém systému POIROT odhalil o 42 případů ze 100 více než přístup s jediným hodnotícím modelem.
32 768
možných kombinací selhání v 15agentním systému
V testovacím finančním systému s 12 agenty POIROT správně identifikoval původ chyby i přes extrémní komplexitu.
Co z toho vyplývá
- Centralizované hodnocení má slepé skvrny, jeden model jako hodnotitel dostane příliš mnoho informací najednou a začne chybovat nebo ignorovat části vstupu.
- Agenti sami nesou dostatečnou kolektivní inteligenci, aby odhalili, kde systém selhal.
- Výhoda POIROTu roste s komplexitou, u jednoduchých úloh je přínos mírný, u složitých výrazný.
- Žádný model nedominuje univerzálně, výběr modelu závisí na typu selhání, ne jen na velikosti.
- Regulatorní tlak to zrychlí — EU AI Act vyžaduje auditovatelnost a sledovatelnost, což přesně POIROT adresuje.
Náš pohled
V agentních systémech nestačí kontrolovat výsledek. Potřebujete vědět, který agent rozhodl, kdy a proč. Bez toho správný výstup neznamená správný proces.
Michal Dobrovolný
Zakladatel & CTO
Zdroj
Dellibarda Varela, I., Sendra-Arranz, R., Romero-Sorozabal, P., Valverde-García, J. M., Laudanski, A. F., Gutiérrez, Á., Rocon, E., & Cebrian, M. (2026). POIROT: Interrogating Agents for Failure Detection in Multi-Agent Systems. arXiv:2606.02282. https://arxiv.org/abs/2606.02282
Pokračujte ve čtení
Nepřehlédněte další příspěvky
Chcete AI implementovat ve vaší firmě?
Projdeme spolu vaše potřeby a navrhneme přístup, který přinese měřitelné výsledky.
Napište nám
