Český úspěch v prestižním grantovém schématu na podporu špičkového základního výzkumu: Josef Šivic, držitel ERC Advanced Grant 2022

0
1045

Rozhovor s Dr. Josefem Šivicem, čerstvým držitelem ERC Advanced Grant 2022, který na CIIRC ČVUT vede výzkumný tým inteligentního strojového vnímání, oblasti umělé inteligence, která spojuje počítačové vidění, strojové učení a robotiku. Evropská výzkumná rada (ERC) se rozhodla podpořit jeho projekt FRONTIER, který navazuje na jeho dosavadní výzkum a posouvá hranice stávajícího poznání v oblasti inteligentních počítačových systémů schopných učit se v dynamicky se měnícím světě.

 

Jaký byl váš první pocit, když jste se o úspěchu FRONTIER dozvěděl? Překvapilo vás to nebo jste úspěch očekával?

Vědecká konkurence je v ERC grantech opravdu vysoká. Konkrétně o ERC Advanced granty se uchází skutečně vynikající  výzkumníci z celé Evropy se skvělými výsledky. Proto to bylo velké překvapení a radost! Způsob, jakým se o výsledku člověk dozví, přitom není úplně přímočarý. Přijde vám trochu neosobní email s výzvou, že se máte podívat do grantového systému ERC. Po přihlášení se dočtete, že letos se přihlásilo hodně projektů, soutěž byla velká a podobně. To vám moc nadějí nedává. Až v další části následuje gratulace, že váš projekt uspěl.

Také mi proběhlo hlavou, jak je to skvělé nejen pro mě osobně, ale pro náš celý obor. V mém ERC panelu (pozn. PE6) soutěží projekty napříč vědními obory ze všech počítačových věd a informatiky. Není tedy výjimkou, že některé roky nejsou mezi vybranými projekty některé oblasti zastoupeny vůbec.

 

Co si myslíte, že bylo rozhodující? Čím jste podle vás hodnotitele ERC přesvědčil a co projekt odlišilo od ostatní velmi silné konkurence?

V programu ERC je klíčová originalita a potenciál dosažení průlomu v dané oblasti, i když je projekt vlastně riskantní. Snažil jsem se tedy zaměřit na  inovativní téma, které je v mé oblasti zásadní otevřenou výzvou. Přípravě projektu jsem dal hodně energie a času. Myslím, že je také důležitá znalost daného problému a schopnost jej definovat. Pak samozřejmě originalita a inovativnost nápadu, který problém řeší.  Problém a jeho řešení ale samo o sobě nestačí, projekt by měl mít i jasný pozitivní dopad na společnost nebo daný obor. Je potřeba zformulovat problém tak, aby to pochopil i vědec z oblasti počítačových věd, ale nemusí být hluboce ponořen do daného oboru.  Bez podpory nejbližších spolupracovníků, zvláště pak při přípravě na pohovor, ale i rodiny, která měla se mnou po dobu psaní projektu neuvěřitelnou trpělivost, bych to ale jen stěží dokázal.

 

Na co hlavně se chcete zaměřit a jaké konkrétní výsledky v projektu FRONTIER očekáváte?

Hned na začátek musím říct, že současné výsledky umělé  inteligence díky velkým neuronovým modelům, jako je například GPT-4, Chat-GPT, nebo Stable Diffusion, jsou opravdu fenomenální. Dokáží generovat odborně znějící texty, počítačový kód, kreativní obrázky nebo složit advokátní zkoušky lépe než 90 % uchazečů. Téměř každý den médii rezonují další efektní výsledky. Přesto, a možná o to víc překvapivě, stále nemáme systémy a stroje, které by byly schopné spolehlivě vnímat svůj okolní svět, porozumět mu a interagovat s ním. Třeba řídit auto ve všech podmínkách a situacích, vyložit nádobí z myčky nebo něco uvařit.

 

Čím to je?

Už v 80. letech se tím v Americe zabýval Hans Peter Moravec, rakousko-kanadský vědec v oboru umělé inteligence a robotiky. Pojmenoval jednu překvapivou skutečnost, a od té doby se tomu říká “Moravcův paradox”. Některé úlohy, o kterých si myslíme, že jsou pro většinu lidí velmi obtížné, jako třeba složit advokátní zkoušky, jsou ve skutečnosti pro počítačové systémy jednoduché. Prostě lehce zvládnutelné automatizovanými technikami. Naopak jiné úlohy, které nám přijdou jako triviální a děláme je každý den, jsou pro stroj velmi obtížné. Jsou to hlavně senzomotorické úlohy jako již zmíněné řízení auta nebo vyložení myčky. Moravec doslova napsal, že „je poměrně snadné přimět počítače, aby na úrovni dospělého člověka zvládly inteligenční testy nebo hraní dámy, ale pokud jde o vnímání a mobilitu, je obtížné nebo nemožné jim dát dovednosti ročního dítěte“. Umělá inteligence se od té doby výrazně posunula, nicméně úlohy vnímání okolního světa a interakce s ním na úrovni lidských schopností jsou stále daleko.

 

Vždyť už nyní ale třeba automobil řadu věcí umí.

Už někdy v roce 2015 se říkalo, že během několika let tu budou plně autonomně řízená auta, ale ani o 8 let později tu plně autonomní systémy, které by fungovaly ve všech situacích, pořád nemáme. Ten problém se ukázal jako mnohem těžśí než jsme čekali. To se ale nevylučuje s tím, že nám současné systémy nemohou výborně pomoci. Mám nyní na mysli systémy asistivního řízení, které mohou ušetřit obrovské množství času. V určitých dobře definovaných scénářích jako je řízení na dálnici, popojíždění v koloně, nebo robotaxi operující v dobře definované oblasti. Během jízdy v zácpě cestou do práce si budete moci místo řízení třeba přečíst noviny. Zatím ale stále nemáme opravdu obecný samořídící automobil, který by měl schopnosti na stejné úrovni jako člověk ve všech prostředích a podmínkách.

 

A tím se tedy budete ve FRONTIER zabývat?

Ještě bych to uvedl na dalším příkladu – většina robotů, které se běžně využívají v továrnách, jsou předprogramované na jednu konkrétní úlohu. Když takového robota dáte do jiného prostředí, tak nebude dělat vůbec nic. Proto chceme vyvinout novou generaci velkých neuronových modelů, v angličtině je nazýváme “foundational”, česky jim můžeme říkat například ”primární modely”, pro systémy s fyzickým tělem, které fungují v dynamickém 3D světě a interagují s okolním prostředím. Příkladem může být robot jako domácí asistent, robot v továrně, samořiditelné auto, ale i robot chirurg. Všechny tyto systémy mají nějaké “fyzické tělo”, proto potřebují vnímat okolní svět, uvažovat o něm a interagovat s ním. Současné velké neuronové modely toho ale schopné nejsou nebo mají jen velmi omezené schopnosti.

 

Jak konkrétně toho chcete dosáhnout?

Budeme vyvíjet nové neurální architektury, které budou věrohodně reprezentovat fyzikální a geometrickou strukturu okolního světa. Výsledkem budou také nové algoritmy, které umožní učení složitých vícekrokových úkolů jen z několika málo příkladů. Tedy podobně, jako se umí učit člověk. Třetím nejambicioznějším cílem je vyvinout algoritmy, které by umožňovaly strojům navzájem sdílet nabyté zkušenosti, a tím se lépe a rychleji naučí reagovat s okolním světem. To je ale velmi těžké, protože jednotlivé stroje budou řešit různé úkoly v rozdílných prostředích.  Zde bych se vrátil k úspěchu současných velkých modelů. Mohou se trénovat na textech a obrázcích z celého Internetu. Takové množství dat ale třeba s jedním robotem ve své továrně jen těžko získáte. Prostě ani během deseti let to takzvaně nenakouká. Proto se zaměříme na metody, které nedostatek učících dat nahradí – protože budou umět agregovat zkušenosti z interakcí s prostředím z různých systémů a zobecňovat je. Hlavním výstupem budou samozřejmě vědecké publikace, ale typicky i vědecký software, který umožní dosažené výsledky jednoduše zreprodukovat, a v neposlední řadě natrénované modely. Cílem je všechny výsledky zpřístupnit ostatním vědcům v rámci otevřené vědy.

 

S kým budete spolupracovat?

Cesta k aplikacím je v oblasti umělé inteligence často překvapivě krátká. V oblasti průmyslové robotiky využijeme inovační infrastrukturu, kterou má náš institut CIIRC ČVUT přímo v budově – Testbed pro Průmysl 4.0. Už nyní pracujeme společně na  projektu v oblasti agilní robotiky pro průmyslovou výrobu, kdy je robotická linka složená z multifunkčních mobilních robotů, které bude jednoduché přeprogramovat na novou úlohu. Spolupracujeme také s mezinárodními partnery, třeba v rámci evropských sítí excelence, jako je euROBIN v robotice nebo ELISE ve strojovém učení. K náročným výpočtům budeme využívat špičkovou infrastrukturu, kterou má Česká republika v podobě superpočítače Karolina v Ostravě. Případně využijeme ještě větší superpočítač LUMI ve Finsku.

 

Kde dále bude možné tyto modely využít?

To, o čem jsem mluvil, jsou příklady z našeho makrosvěta. Potenciál neurálních primárních modelů je velký a některé techniky, si myslím, bude možné v navazujících projektech přenést i do mikrosvěta – například do oblasti molekulární biologie, kde výsledné modely také musí respektovat fyzikální, chemické a biologické zákony. To mě také hodně zajímá a jsem rád, že v této oblasti spolupracujeme s týmy Jiřího Damborského z Masarykovy univerzity a Tomáše Pluskala z ÚOCHB. Chceme, například, vyvinout techniky pro modelování dynamiky a funkce proteinů, což může mít dopad na vývoj léků. Zabýváme se například proteiny souvisejícími s Alzheimerovou chorobu.

 

Za patnáct let fungování ERC získali čeští vědci a vědkyně podporu pro 61 grantů ve výši přes 92 mil. EUR. Přesto Česko co do podaných a získaných projektů daleko zaostává za evropským průměrem. Loni uspělo celkem 354 projektů, z toho jen 3 pro ČR (žádný Advanced Grant). Co byste po vaší čerstvé zkušenosti doporučil českým vědcům, aby byla česká stopa v ERC výraznější?

Důvodů, proč máme nízké procento českých projektů, bude určitě víc. Například někdo říká, že čeští vědci neumějí svůj výzkum dobře prezentovat. Je pravdou, že podpora hlavně mladých vědců v přípravě ERC projektů je velmi důležitá. Osobně si ale myslím, že zvláště v oblasti počítačových věd se ukazuje, jak důležitá je dlouhodobá podpora výzkumu. Dost často jsou vědci při zajištění zdrojů pro svoji práci nuceni věnovat se krátkodobějším a více aplikovaným projektům. Aplikace jsou určitě důležité. Pro mě například jsou výborným zdrojem zajímavých problémů. Na druhou stranu pro ERC musí vědec vykázat silný publikační, tzv. výzkumný track record v dané oblasti. Na to ale při řešení velkého množství aplikovaných projektů není čas ani příležitost. Výzkumníci často nemají vhodné prostředí pro řešení dlouhodobých výzkumných problémů, protože se musí honit za krátkodobými aplikovanými projekty, aby se uživili. Dlouhodobá stabilní institucionální podpora by mohla počet projektů podaných v ERC podpořit tím, že umožní vědcům řešit také více dlouhodobé, a tedy i trochu riskantní problémy.

 

U vás byla situace jiná?

Ano. Onu potřebnou dlouhodobou podporu pro výzkum mi totiž umožnil projekt IMPACT, díky kterému jsem se před šesti lety vrátil z Francie zpět do Česka na institut CIIRC ČVUT. Z prostředků OP VVV jsem získal šestileté financování, ze kterého jsem mohl vybudovat silný tým a věnovat se dané problematice, konkrétně strojovému vnímání, strojovému učení a robotice. Projekt tak v mém případě nahradil chybějíćí institucionální podporu a byl jedním z klíčových faktorů, proč jsem mohl úspěšný ERC projekt napsat.

 

Co ještě hraje roli?

Pro mladé vědce je také, myslím, důležitá zkušenost z významného zahraničního pracoviště. Buď ve formě doktorátu nebo například postdoktorandského pobytu. Tyto zkušenosti jsou opravdu nenahraditelné.  V oblastech založených na strojovém učení je dobrým přikladem doktorský a postdoktorandský program Evropské laboratoře inteligentních a učících se systémů (ELLIS), který združuje přední pracoviště v této oblasti v Evropě. Progam umožnuje mladým vědcům pracovat se dvěma opravdu dobrými školiteli ze dvou různých zemí, a tak poznat dvě různá pracoviště. CIIRC ČVUT se ho také účastní. Při přípravě samotného projektu může významně pomoci zkušenější mentor. Interakce s někým zkušenějším je cenná. Při přípravě projektu do ERC takový mentor pomůže nejen v procesu formulování onoho problému a jeho řešení. Jeho zpětná vazba pomáhá také při přípravě prezentace. Tu uchazeč o ERC prezentuje ve druhém kole před hodnotící komisí.

 

Jak ale hledat motivaci, když je šance získat ERC tak nízká?

Osobně jsem projektu do ERC věnoval hodně energie i proto, že jsem věřil, že projekt je dobrý a navržený směr má opravdu smysl. Myslím, že je také dobré se jednou za několik let zastavit, a zamyslet se nad dlouhodobými cíli. Psaní ERC projektu k tomu poskytuje dobrou příležitost. Další motivací byl český program ERC-CZ, který umožnůje financovat ERC projekty, které mají dobré hodnocení, ale nedostaly financovaní z programu ERC. Podporu poskytuje agentura GAČR a je to podle mého názoru skvělý nástroj na další podporu motivace českých vědců psát ERC projekty. Připravit skutečně dobrý projekt stojí hodně úsilí, ale díky ERC-CZ má vědec dvojí motivaci do toho jít.

 

Do České republiky a konkrétně na CIIRC ČVUT jste přišel v roce 2017 po mnohaletém působení na francouzském národním výzkumném institutu informatiky, kde jste také realizoval svůj první ERC grant – ERC Starting Grant pro začínající vědce. Před tím jste byl na Univerzitě v Oxfordu a na Massachusetts Institute of Technology v USA. Jak byste zhodnotil, co se od vášeho návratu změnilo v českém vědeckém prostředí v umělé inteligenci? Co funguje dobře a v čem naopak stále zaostáváme za Evropou?

Už jsem to zmínil. Opravdu velký dopad má podpora výzkumu prostřednictvím velkých projektů. Ukázalo se, že má smysl pomocí dlouhodobých grantů výzkum podporovat. Díky programu OP VVV a projektu IMPACT jsem se do České Republiky mohl vrátit. Podobné projekty zajistily příchod i dalších vědců ze zahraničí. Na institutu CIIRC díky tomu máme Roberta Babušku a také Josefa Urbana, který získal ERC Consolidator grant.  Dále díky projektu RICAIP příšli Tomáš Mikolov, Torsten Sattler nebo Mikoláš Janota. OP VVV projekt RCI na ČVUT FEL přispěl k tomu, že tu jsou například Stefan Edelkamp nebo Zuzana Kúkelová, jejíž návrat byl podpořený i Marie-Curie Fellowship. Nebo na MFF UK se nedávno vrátil Ondřej Dušek, který získal ERC Starting grant. Pomyslnou štafetu v podpoře výzkumu by měly převzít projekty OP JAK – ty jsou nyní předmětem hodnocení.

Sám ve svém okolí vidím, jak příchod těchto výzkumníků českou vědeckou AI komunitu oživil a posílil. I díky těmto posilám tak má Česká Republika pracoviště, která v některých oblastech umělé inteligence patří mezi vedoucí Evropská pracoviště podle počtu publikací ve špičkových vědeckých konferencích dané oblasti. Také jsme založili celonárodní platformu AICZECHIA sdružující vědce v umělé inteligenci, čímž se podařilo českou AI komunitu více propojit. Toto propojování je důležité, protože to vytváří prostor pro synergii mezi jednotlivými obory umělé inteligence. Pokud chceme soutěžit na Evropské a světové úrovni, musíme dát dohromady to nejlepší, co v Česku máme. Stále sílící vědecký ekosystém kolem AI doplňuje i ekosystém inovační. Zde skvěle fungují iniciativy jako prg.ai nebo Brno.ai. Propojují nás vědce v interakcích s aplikační a startup scénou a v neposlední řadě dělají hodně pro popularizaci vědy, technologií a inovací.

Pokud ale chce být Česká republika v oblasti umělé inteligence skutečným a uznávaným hráčem na mezinárodní úrovni, je důležité s investicemi do výzkumu pokračovat. A to dlouhodobě. Výzkum pohání pokrok a inovace a je základem pro navazující aplikace. Bez silných výzkumných výsledků není nebo v budoucnu nebude co převádět do praxe. Bez silného AI výzkumu hrozí nebezpečí, že Česká Republika bude zaostávat v této technologické revoluci za ostatními zeměmi v Evropě a ve světě.

Konkurence v tomto oboru je vysoká, o špičkové vědce se jiné státy a univerzity doslova přetahují a dokážou nabídnout dobré podmínky. Byla by velká škoda, aby o takové vědce Česká republika přišla.

 

Co považujete v rámci svého končícího projektu IMPACT za největší úspěch?

I když jsem měl zpočátku z návratu trochu obavy, když se podívám zpětně, mám z výsledků velkou radost. Podařilo se nám vytvořit silný tým patnácti opravdu šikovných lidí. Přidávají se k nám další výzkumníci. Podařilo se nám publikovat řadu výsledků na předních vědeckých konferencích a v časopisech našeho oboru. Příklad úspěchů mého kolegy Tomáše Pajdly dokládá to, jak je důležité mít jistotu výzkumného zázemí. Dlouhodobé financování z projektu IMPACT mu umožnilo soustředit se na těžké otevřené problémy. V rozpětí posledních čtyř  let získal tři prestižní ocenění na předních konferencích. To jsou něco jako olympijské medaile oboru. Loni se mu podařilo získat hlavní cenu za nejlepší článek vybraný programovým výborem konference z více než 8,000 podaných příspěvků. To jsou naprosto skvělé úspěchy ve světovém měřítku.

Také se nám podařilo rozvinout spolupráci s firmami jako je Valeo v oblasti autonomního řízení nebo pracujeme na aplikacích v průmyslové výrobě ve spolupráci s kolegy z Testbedu pro Průmysl 4.0. Beru to tak, že kdyby nebylo podpory v podobě projektu IMPACT, nedostavil by se asi ani současný úspěch v soutěži ERC. Takže oba projekty beru jako určitý proces a pokračování. Na to se samozřejmě nabalují i další navazující projekty a spolupráce.

 

Jak vnímáte rozvoj AI v Evropě? Jak si Evropa stojí v oblasti strojového učení v porovnání s lídry jako je USA a Čína?

Bohužel je třeba přiznat, že Evropa v umělé inteligenci nestačí držet krok se severní Amerikou a Čínou, které do této oblasti silně investují. Například Kanada investovala do desetiletého ambiciozního výzkumného programu v umělé inteligenci a láká špičkové vědce programem “AI Chairs”.  Evropa má svůj koordinovaný plán v umělé inteligenci. Nicméně evropská podpora se zaměřuje na síťovací aktivity a spoléhá na dlouhodobou podporu AI výzkumu jednotlivými členskými státy. Investice do AI výzkumu jsou klíčovým elementem jednotlivých národnćh strategii (např. ve Francii, Německu a už i například Polsku nebo Bulharsku). Česká vláda také vypracovala národní AI strategii, ale jasná dlouhodobá podpora AI výzkumu v její implementaci zatím chybí. Český AI výzkum má dobrou výchozí pozici. Je ale potřeba do něj dlouhobě investovat, pokud má být konkureceschopný se zbytkem Evropy a světa, který do AI výzkumu investuje intenzivně. Implementace české národní strategie se bude letos revidovat. Je to skvělá příležitost tento nedostatek napravit. Výzkum je potřeba brát jako investici do budoucna. Ta se vrátí třeba v horizontu pěti či deseti let v podobě inovativních startupů, nových pracovních pozic, inovativních technologií a firem. Jde o dlouhodobou konkureceschopnost naší ekonomiky, průmyslu a společnosti.

 

________________________

 

Josef Šivic

Vedoucí výzkumné skupiny zaměřené na inteligentní strojové vnímání na Českém institutu informatiky, robotiky a kybernetiky (CIIRC) na ČVUT v Praze, ředitel ELLIS Unit Prague.  Od roku 2022 také předseda iniciativy AICZECHIA, která sdružuje prostřednictvím klíčových odborníků v oblastech umělé inteligence čtyři desítky předních akademických týmů a pracovišť, působících zejména na univerzitách a výzkumných institutech.  Jeho výzkumná skupina také přispívá k tomu, že ČVUT se dlouhodobě řadí mezi pět nejlepších evropských institucí v oblasti počítačového vidění  (žebříček CSRankings za období 2018 – 2023) a on sám patří mezi nejlepší české informatiky (více informací zde).

Po absolvování magisterského studia na ČVUT v roce 2002 strávil více než 15 let v zahraničí, včetně doktorského studia na University of Oxford ve Velké Británii, postdoktorského pobytu na Massachusetts Institute of Technology v USA a více než desetiletém působení na francouzském národním výzkumném institutu informatiky (Inria) v Paříži ve Francii, kde získal ERC Starting grant. Od roku 2017 působí na CIIRC ČVUT, kde vede “návratový” projekt IMPACT financovaný ve výši 111 mil. Kč. Je spoluautorem více než 100 odborných publikací.  Jeho vědecké články byly oceněny Longuet-Higgins prize a Helmholtz prize za zásadní příspěvky k počítačovému vidění. Má více než 10 let zkušeností s poradenstvím pro průmysl.

 

 

Oznámení o udělení ERC Advanced Grantu 2022 si můžete přečíst ZDE.

Previous articleJosef Šivic získal prestižní ERC Advanced Grant na výzkum inteligentních počítačových systémů schopných učit se v dynamicky měnícím se světě
Next articleNové centrum pro umělou inteligenci, robotiku a kybernetiku v indickém Džajpuru ponese jméno profesora Maříka