Ve čtvrtek 22. ledna 2026 se v Českém institutu informatiky, robotiky a kybernetiky ČVUT (CIIRC ČVUT) uskutečnil odborný workshop s názvem Trusted AI in Action Validation Metrics for Medical Device Artificial Intelligence. Akci uspořádaly výzkumné instituty INDRC a CIIRC ČVUT ve spolupráci s hubem INPACE. Zařadila se mezi oficiální předsummitové akce únorového India AI Impact Summitu 2026, prvního globálního summitu o umělé inteligenci pořádaného v zemích globálního Jihu. Diskuse se nesla v duchu širšího tématu „Důvěryhodná AI pro Indii (Bhárat) a Česko: bezpečnost, odpovědnost a inovace zaměřené na člověka“, které odráží společný závazek rozvíjet důvěryhodnou umělou inteligenci napříč regiony a sektory.
Workshop, konaný v hybridním formátu, přivedl ke společnému stolu zástupce výzkumu, zdravotnictví, veřejných institucí a průmyslu a vytvořil tak skutečně mezioborový prostor pro diskusi s mezinárodním rozměrem. Za organizující instituce na akci vystoupili prof. Vladimír Mařík (CIIRC ČVUT) a Vít Dočkal (INDRC), spolu s odborníky z klíčových národních i mezinárodních institucí.
Mezi účastníky byli zástupci Českého metrologického institutu, včetně Petra Braťky a Martina Kovala, dále zástupci Ministerstva zdravotnictví ČR a Ministerstva průmyslu a obchodu ČR. Pohled zdravotnické praxe obohatili účastníci z nemocnic, například z Univerzitní nemocnice v Oslu, stejně jako z center aplikovaného výzkumu, startupů a mezinárodních výzkumných organizací.
Diskuse se zaměřila na konkrétní a aktuální otázky, které dnes ovlivňují zavádění AI do medicínské praxe, mimo jiné:
- jak posuzovat, zda a jak konkrétní systémy AI spadají pod Nařízení o zdravotnických prostředcích (Medical Device Regulation – MDR),
- jak přistupovat ke klasifikaci rizik způsobem, který je prakticky proveditelný a právně obhajitelný,
- jak definovat validační metriky, které v klinickém použití odrážejí skutečnou důvěryhodnost, robustnost a spolehlivost.
Mezinárodní rozměr byl také posílen účastí Dr. Prakashe Shelata, prvního tajemníka Velvyslanectví Indie v Praze, jehož přítomnost podtrhla význam diskuse i mimo evropský kontext.
„Naší ambicí je vybudovat silnou a dlouhodobou spolupráci s partnery z indické státní správy, akademické sféry i průmyslu. Důvěryhodná AI ve zdravotnictví není lokální výzvou. Je to výzva globální a pouze prostřednictvím dlouhodobého mezinárodního dialogu ji můžeme smysluplně řešit,“ uvedl dr. Vít Dočkal, ředitel INDRC.
Ústředním tématem diskuse bylo hledání cest, jak převést regulatorní rámce do prakticky použitelných metod hodnocení zdravotnických prostředků využívajících umělou inteligenci.
Namísto abstraktních teoretických debat se účastníci soustředili na dosažení společného porozumění a sladění pohledů napříč obory a shodli se, že regulace, bezpečnost a důvěra již dnes hrají zásadní roli ve způsobu, jakým jsou systémy AI vyvíjeny a hodnoceny.
„Bez jasných definic systémů AI, míry jejich autonomie a zamýšleného použití není možné smysluplně hodnotit bezpečnost ani regulaci v praxi,“ zdůraznil prof. Vladimír Mařík, vědecký ředitel CIIRC ČVUT. „U zdravotnických prostředků nelze systémy AI ‚prokázat jako bezpečné‘ pouze teoreticky. Důvěra musí být budována prostřednictvím opakovaného testování a – alespoň v dohledné budoucnosti – také lidským dohledem nad tím, jak systém působí na pacienta.“
Na tomto pohledu se účastníci shodli a diskuse tím potvrdila význam průběžného ověřování a odpovědného nasazování AI v klinickém prostředí.
Z pohledu veřejné správy workshop jasně ukázal potřebu koordinovaných výstupů, které by mohly podpořit jednotný výklad regulatorních požadavků, zejména s ohledem na očekávané revize regulace na úrovni EU.
„Z mého pohledu je nejslibnějším výsledkem jasná shoda na potřebě směřovat k formalizovanému závěru, například ve formě společně dohodnutého stanoviska,“ uvedl dr. Petr Braťka, vedoucí oddělení preklinického hodnocení, manažer projektového řízení a hodnotitel produktů v Centru certifikace zdravotnických prostředků Českého metrologického institutu. „Takový výstup by mohl sloužit jako cenný referenční bod nejen pro vývojáře a notifikované osoby, ale i pro další zainteresované subjekty, včetně orgánů veřejné správy, při orientaci v praktickém uplatňování MDR a požadavků souvisejících s AI.“
Vytvořením prostoru pro tento typ mezioborové výměny workshop posílil roli INDRC a CIIRC ČVUT jako institucí propojujících technologie, klinickou praxi a regulaci, a to i prostřednictvím společných iniciativ, jako je projekt CLARA. Organizátoři usilují o to, aby výsledky tohoto dialogu přispěly k jednotnějšímu porozumění mezi klíčovými aktéry a podpořily spolupráci nejen v České republice, ale i napříč EU a v rámci mezinárodní spolupráce, zejména s Indií. To by znamenalo důležitý krok k zajištění toho, aby systémy AI používané ve zdravotnictví byly bezpečné, odpovědné a zaměřené na člověka.
