Jak naučit AI nepřehlédnout nebezpečnou diagnózu
mlj.solutions
mlj.solutions Jistota AI není důkaz. AI doporučí nového dodavatele: cena, termín i dokumenty sedí. Jen firma vznikla před třemi týdny. Dobře nastavená AI hledá i důvody, proč se může mýlit. U smluv, plateb nebo dodavatelů je to rozdíl mezi rychlým a správným rozhodnutím. Pokud i vy řešíte, jak se na AI ve firmě spolehnout, odkaz na konzultaci najdete v biu.
Zobrazit na InstagramuO čem studie je
Diagnostická chyba ohrožuje pacienty a běžné jazykové modely často tipují diagnózu na jeden pokus. AegisDx proto pracuje jako lékař, který sestaví široký seznam možných diagnóz, výslovně hledá nebezpečné stavy, které nelze přehlédnout, a své úvahy ověřuje proti lékařským důkazům.
Statistiky
85,7 %
přesnost Top-3 diagnózy
Na případech z Annals of Emergency Medicine vzrostla správnost mezi třemi nejpravděpodobnějšími diagnózami z 68,6 % u samotného jazykového modelu na 85,7 %.
78 %
odhalených nebezpečných diagnóz
Podíl případů, ve kterých systém mezi třemi návrhy zachytil alespoň jednu diagnózu označenou lékaři za nepřehlédnutelnou, vzrostl z 52 % u samotného modelu na 78 %.
4,55
bezpečnostní skóre lékařů
Ve slepém hodnocení 43 reálných záznamů z pohotovosti Yale New Haven Health System lékaři zvýšili skóre z 4,31 u GPT-5 na 4,55 u AegisDx na pětibodové škále.
Co z toho vyplývá
- Bezpečnost je víc než přesnost, autoři navrhují stavět diagnostickou AI jako rámec bezpečného uvažování, ne jen maximalizovat správnost odpovědi.
- Hledat nejhorší variantu je klíčové, výslovná kontrola nebezpečných diagnóz zachytí případy, které samotný model přehlédne.
- Ověřování zvyšuje důvěru, každá úvaha se kontroluje proti ověřeným lékařským důkazům, takže je transparentnější.
- Přínos nepochází z většího modelu, AegisDx i srovnávaný model používaly stejný základ, rozdíl vytvořila architektura.
- Je to podpora, ne náhrada, systém je určený jako vrstva podpory rozhodování u lůžka v akutní péči.
Náš pohled
Bezpečná AI nevzniká jedním velkým modelem, ale rozdělením rolí a kontrol.
Michal Dobrovolný
Zakladatel & CTO
Zdroj
Ma, F., Giuffrè, M., Wright, D., McCann, K., Iscoe, M., Qian, L., Jiang, M., Ng, C. W., Hong, N., He, H., Shyr, C., Chen, Q., Schwamm, L., Ohno-Machado, L., & Xu, H. (2026). A safety-oriented hypothetico-deductive framework for AI-assisted differential diagnosis. arXiv:2607.08038. https://arxiv.org/abs/2607.08038
Nepřehlédněte další příspěvky
Co se stane, když AI agent dostane stovku kroků
Benchmarky ukazují rostoucí úspěšnost agentů, ale na dlouhých úlohách v produkci selhávají. Studie ukazuje, že rozhoduje délka úlohy.
Kdy se víc agentů vyplatí a kdy ne
Víc AI agentů nemusí znamenat lepší výsledek. Studie ukazuje, že důležité je, kolik informace se ztratí při předávání mezi agenty.
AI si zapamatuje tvrzení, i když jí řeknete, že je nepravdivé
Když se model dotrénuje na dokumentech, které tvrzení popírají, často se ho přesto naučí jako pravdivé. Autoři tento jev pojmenovali Negation Neglect.
Chcete AI implementovat ve vaší firmě?
Projdeme spolu vaše potřeby a navrhneme přístup, který přinese měřitelné výsledky.
Napište nám
