Ne další algoritmus, ale celá ordinace
Zdravotnické systémy testují umělou inteligenci už několik let. Nejčastěji dostane jeden konkrétní úkol: najít na snímku podezřelý útvar, vyhodnotit sítnici nebo odhadnout riziko určité nemoci.
Tým z Tsinghua University v Pekingu ale zkusil jiný přístup. Jejich AI-Agent Augmented Tsinghua Eye Clinic, zkráceně AI-TEC, měla umělou inteligenci zapojit napříč celou cestou pacienta. Od předběžného sběru informací přes třídění pacientů a analýzu očních snímků až po podporu rozhodování a následnou péči.
Lidé z procesu nezmizeli. Lékaři zůstávali součástí systému a měli nad ním dohled.
Experiment tak nebyl testem kliniky bez doktorů. Byl testem otázky, co se stane, když AI přestaneme přidávat jako jednu aplikaci navíc a pokusíme se kolem ní přestavět pracovní postup.
27 tisíc obrázků prohrálo s 1 426 lepšími
Jedna z nejzajímavějších lekcí se týkala dat. Původní systém byl trénován na téměř 27 tisících očních snímků. Jeho schopnost rozlišovat některá onemocnění ale nebyla dostatečná. Pak expertní oftalmologové vytvořili menší soubor 1 426 vysoce kvalitních a pečlivě označených snímků.
Výsledek byl pozoruhodný: po použití této podstatně menší, ale kvalitnější datové sady výkon výrazně vzrostl a hodnota AUROC při některých úlohách překročila 0,93. Více dat tedy automaticky nebylo lepší než méně kvalitních dat.
Doktoři přestali AI používat
Ještě zajímavější lekce přišla z běžného provozu. Krátce po zavedení byl systém používán relativně často. Po několika měsících ale využití prudce spadlo. V jednom sledovaném měsíci prošlo procesem AI-TEC pouze 41 z 1 113 vyšetření, tedy zhruba 3,8 procenta.
Důvod nebyl dramatický. AI nemusela začít dělat katastrofální chyby. Pracovní postup byl prostě příliš nepohodlný. Vývojáři proto zrychlili systém, snížili počet kliknutí a omezili množství ručního zadávání. V následujícím měsíci podíl použití vystoupal na 259 z 1 126 vyšetření, tedy přibližně 23 procent.
To je pro budoucnost zdravotnické AI možná významnější poznatek než další desetina procenta přesnosti.
AI může být skvělá na testu a nepoužitelná v nemocnici
Laboratorní benchmark obvykle položí jasnou otázku: má tento snímek známku glaukomu, nebo nemá? Pacient ale nepřichází do nemocnice jako datová sada. Přichází s bolestí, rozmazaným viděním, předchozími nemocemi, neúplnou anamnézou a symptomy, které mohou mít více příčin.
Proto autoři sami upozorňují, že úspěch „AI-native“ zdravotnictví nelze měřit pouze výkonem algoritmu. Rozhodující budou kvalita dat, integrace do práce kliniků, zpětná vazba, bezpečnost, governance a nakonec hlavně skutečný přínos pro pacienty.
Možná tedy nejzajímavější poučení první AI oční kliniky není, že umělá inteligence dokáže nahradit doktora. Je téměř opačné. I mimořádně schopná AI je v nemocnici k ničemu, pokud ji skuteční lidé nechtějí používat.
MOHLO BY SE VÁM TAKÉ LÍBIT
Zdroje: Kód Enigma [1], Nature Medicine – Initial lessons from real-world implementation of an AI-agent eye clinic in China, DOI 10.1038/s41591-026-04631-z [2], Tsinghua University – Initial Lessons from Real-world Implementation of an AI-Agent Eye Clinic in China [3]. img ai generated
