Konzultace s lékařem přes chatbota? Příležitosti, rizika, vedlejší účinky

„Mohl byste prosím popsat, jak dlouho už máte tento kašel a zda se u vás vyskytují doprovodné příznaky, jako je horečka, dušnost nebo bolest na hrudi?“ To, co zní jako klasická otázka lékaře či lékařky, v tomto případě položila umělá inteligence (AI). AI již delší dobu dokáže rozpoznávat například nádory na rentgenových snímcích. Nyní se však její vývoj posunul až k rozhovoru s pacienty a pacientkami.

Vědci především z Univerzitní nemocnice v Heidelbergu a z Centra Else Kröner Fresenius pro digitální zdraví na Technické univerzitě v Drážďanech, stejně jako tým společnosti Google, vyvinuli dva nezávislé modely AI pro správu pacientů, které pokrývají vše od diagnózy až po doporučení léčby. Oba jsou v současné době představeny v odborném časopise „Nature“.

V čem spočívá novinka?

Mnohé vývojové projekty v oblasti AI ve zdravotnictví se dosud omezovaly na specifické úkoly. Oba modely MIRA (Medical Intelligence for Reasoning and Action) od německých výzkumníků a AMIE (Articulate Medical Intelligence Explorer) od společnosti Google jdou v tomto ohledu výrazně dále: Mimo jiné samostatně zaznamenávají prostřednictvím chatu anamnézu, nařizují diagnostické testy, jako jsou mikrobiologická vyšetření, a sestavují léčebné plány včetně předpisu konkrétních léků.

Přitom zohledňují například klinické pokyny, odbornou literaturu a aspekty, jako jsou lékové interakce. Místo vágních doporučení poskytoval systém společnosti Google podle údajů velmi podrobné a prakticky použitelné pokyny. Podle autorů se v testech oba modely ukázaly být v některých ohledech lepší a přesnější než lidští lékaři.

Co to má přinést?

Tým Googlu poukazuje na problémy, jako je nedostatek personálu a chybějící kontinuita během léčby rozložené do několika návštěv. Odborníci z Heidelbergu a Drážďan hovoří o „kopilotech“ pro lékaře, aby měli více času na péči o pacienty.

S ohledem na široké spektrum úkolů v klinickém řízení péče o pacienty se v časopise „Nature“ uvádí: „Kdyby agenti umělé inteligence mohli převzít takové úkoly a zajistit efektivní klinické rozhodování, byli by schopni podporovat lékaře při rutinních úkolech a případně zmírnit nedostatek lékařů v některých regionech světa.“

Budu tedy brzy mluvit s doktorem AI?

Ne. Obě skupiny uvádějí, že jejich modely zatím nelze použít v reálném životě. Své aplikace testovaly s AI verzemi pacientů, které však vycházely ze skutečných dat. Tyto simulace mají podle údajů svá úskalí. Například takový virtuální pacient odpovídá a reaguje zcela jinak než člověk z masa a kostí, který přijde do nemocnice s akutními potížemi. Uvádí se sice, že MIRA obecně navrhovala přiměřenou léčbu založenou na důkazech. Doporučení však nebyla stoprocentně spolehlivá.

Jak to hodnotí odborníci?

„Výsledky dokazují, jaký potenciál mají agenti umělé inteligence pro medicínu,“ říká Uwe Platzbecker, lékařský ředitel Univerzitní nemocnice v Drážďanech. Pro další vývoj je podle něj klíčová otázka, „jak můžeme takové inovace bezpečně, transparentně a ve prospěch pacientek a pacientů integrovat do klinické praxe“.

Kerstin Denecke z Bernské vysoké školy vidí jako současné překážky realitu v oblasti dat ve zdravotnictví, schvalovací řízení, nejasné odpovědnosti a reprezentativní studie o rizicích takových systémů. „Pro klinická rozhodnutí je zapotřebí více než jen slepé dodržování směrnic,“ vysvětluje odbornice na digitální zdravotnictví zaměřené na pacienta. Je zapotřebí porozumění individuální situaci dotčených osob.

Ve studii MIRA vidí Robert Ranisch, mimo jiné profesor lékařské etiky na Univerzitě v Postupimi, sice „zajímavý a metodicky promyšlený příspěvek“. Studie však zkoumá výkonnost agentů umělé inteligence právě v laboratorních podmínkách. Zde se, stejně jako u mnoha studií o umělé inteligenci, naskýtá zásadní otázka: Funguje to i v každodenní klinické praxi? „Právě na tom dosud selhává mnoho slibných systémů umělé inteligence,“ vysvětluje. Rychle narážejí na limity, jakmile do hry vstoupí například skuteční pacienti a ošetřující lékaři, neúplná data nebo různé IT systémy.

To, že agent umělé inteligence dokáže strukturovaně mapovat klinické procesy i diagnostická a terapeutická rozhodnutí, ještě neznamená, jak uvádí Reinhard Busse, vedoucí katedry managementu ve zdravotnictví na Technické univerzitě v Berlíně, že tím v každodenní praxi dojde ke zlepšení péče nebo ke snížení nákladů.

Jakou roli hraje umělá inteligence v komunikaci s pacienty?

Německá lékařská komora se podrobně zabývala umělou inteligencí v medicíně. V jedné publikaci se k tématu komunikace uvádí, že stanovení diagnóz, léčebných postupů a prognóz nezahrnuje pouze technické úkony, ale je také spojeno s emocemi a hodnotovými představami. „Tyto aspekty tvoří základ důvěry mezi lékaři a pacienty.“ Při nasazení asistenčních systémů založených na umělé inteligenci je třeba zvážit, zda nejsou mezilidské a emocionální aspekty nepřiměřeně odsunuty do pozadí – například když je lidská komunikace podporována nebo dokonce nahrazena technickými systémy hlasové asistence, jako jsou chatboty.

I přes veškerou časovou úsporu díky umělé inteligenci zdůrazňuje Eugen Brysch, předseda představenstva Německé nadace pro ochranu pacientů, rovněž: „Lékařský rozhovor bude pro pacienta i v budoucnu hrát nepostradatelnou roli.“ Zejména pro starší lidi má to mimořádný význam. 

Existují další obavy?

U miliardového projektu elektronických zdravotních záznamů podle Bryscha stále chybí začlenění umělé inteligence. „Filtrování, propojování a analýza datových objemů by znamenaly průlom.“ Zároveň varuje před rostoucí závislostí na mimoevropských společnostech: „Není možné, aby budoucnost analýzy a komunikace ležela v rukou technologických miliardářů a jejich politických vazeb.“