How to Teach AI Not to Miss a Dangerous Diagnosis
mlj.solutions
mlj.solutions Jistota AI není důkaz. AI doporučí nového dodavatele: cena, termín i dokumenty sedí. Jen firma vznikla před třemi týdny. Dobře nastavená AI hledá i důvody, proč se může mýlit. U smluv, plateb nebo dodavatelů je to rozdíl mezi rychlým a správným rozhodnutím. Pokud i vy řešíte, jak se na AI ve firmě spolehnout, odkaz na konzultaci najdete v biu.
Zobrazit na InstagramuO čem studie je
Diagnostická chyba ohrožuje pacienty a běžné jazykové modely často tipují diagnózu na jeden pokus. AegisDx proto pracuje jako lékař, který sestaví široký seznam možných diagnóz, výslovně hledá nebezpečné stavy, které nelze přehlédnout, a své úvahy ověřuje proti lékařským důkazům.
Statistiky
85,7 %
přesnost Top-3 diagnózy
Na případech z Annals of Emergency Medicine vzrostla správnost mezi třemi nejpravděpodobnějšími diagnózami z 68,6 % u samotného jazykového modelu na 85,7 %.
78 %
odhalených nebezpečných diagnóz
Podíl případů, ve kterých systém mezi třemi návrhy zachytil alespoň jednu diagnózu označenou lékaři za nepřehlédnutelnou, vzrostl z 52 % u samotného modelu na 78 %.
4,55
bezpečnostní skóre lékařů
Ve slepém hodnocení 43 reálných záznamů z pohotovosti Yale New Haven Health System lékaři zvýšili skóre z 4,31 u GPT-5 na 4,55 u AegisDx na pětibodové škále.
Co z toho vyplývá
- Bezpečnost je víc než přesnost, autoři navrhují stavět diagnostickou AI jako rámec bezpečného uvažování, ne jen maximalizovat správnost odpovědi.
- Hledat nejhorší variantu je klíčové, výslovná kontrola nebezpečných diagnóz zachytí případy, které samotný model přehlédne.
- Ověřování zvyšuje důvěru, každá úvaha se kontroluje proti ověřeným lékařským důkazům, takže je transparentnější.
- Přínos nepochází z většího modelu, AegisDx i srovnávaný model používaly stejný základ, rozdíl vytvořila architektura.
- Je to podpora, ne náhrada, systém je určený jako vrstva podpory rozhodování u lůžka v akutní péči.
Náš pohled
Bezpečná AI nevzniká jedním velkým modelem, ale rozdělením rolí a kontrol.
Michal Dobrovolný
Zakladatel & CTO
Zdroj
Ma, F., Giuffrè, M., Wright, D., McCann, K., Iscoe, M., Qian, L., Jiang, M., Ng, C. W., Hong, N., He, H., Shyr, C., Chen, Q., Schwamm, L., Ohno-Machado, L., & Xu, H. (2026). A safety-oriented hypothetico-deductive framework for AI-assisted differential diagnosis. arXiv:2607.08038. https://arxiv.org/abs/2607.08038
Don't miss these posts
What Happens When an AI Agent Gets a Hundred Steps
Benchmarks show rising agent success rates, yet agents fail on long tasks in production. The study shows that task length is what matters.
When More Agents Pay Off and When They Don't
More AI agents don't necessarily mean a better result. A study shows that what matters is how much information is lost when it is passed between agents.
AI Remembers a Claim Even When You Tell It It's False
When a model is fine-tuned on documents that deny a claim, it often learns the claim as true anyway. The authors named this effect Negation Neglect.
Want to implement AI in your company?
We'll go through your needs together and propose an approach that delivers measurable results.
Write to us
