Как выяснил ВЦИОМ, четверо из десяти россиян поддерживают внедрение искусственного интеллекта в медицину, а значит, готовы доверить свое здоровье машинному разуму. Как сильна вера человека в чудо! Как мы это видим: нейросеть тщательно проанализирует снимки и анализы, поставит выверенный диагноз, а вежливый робот-хирург, не допустив ни единого лишнего движения, филигранно проведет операцию, пожелает здоровья и наверняка подарит пятьсот эскимо. Каковы реальные риски повсеместного внедрения ИИ в медицину и как алгоритмы могут действительно помочь врачам — в интервью руководителя Экспертного совета ЭИСИ Глеба Кузнецова.
Технологическая восторженность как часть менталитета
— Почти половина россиян поддерживают применение искусственного интеллекта в медицине. Откуда такой уверенный медицинский технооптимизм? ИИ воспринимается людьми как панацея от всех бед, в том числе проблем со здоровьем?
— Технооптимизм россиян — это то, что мы унаследовали от ныне покойной исторической общности «единый советский народ». Советский человек верил в прогресс, в технологии, увлекался всем новым. Это осталось в людях. Само сочетание слов «искусственный интеллект» и «медицина» вызывает безотчетное уважение и доверие у респондентов. Полагаю, если углубиться в тонкости восприятия, то выяснится, что люди воспринимают искусственный интеллект как некий «черный ящик», куда на входе оператор закладывает данные анализов, жалобы и так далее, а на выходе пациент получает бумажку с диагнозом (однозначным и стопроцентно точным) и назначениями (опять же, стопроцентно эффективными). Однако это выглядит совсем не так и даже не имеет шансов выглядеть так в будущем.
Истории, когда рентгеновский снимок загружается в компьютер и машинный разум выдает тебе диагноз, при всей кажущейся привлекательности вызывают огромную настороженность в мире. Почему? Потому что непонятно, кто в итоге ответственен за ошибки, некорректный диагноз или неэффективную терапию. Вопросы диагностики и назначения лечения в конечном счете сводятся к вопросу ответственности. Алгоритм не может (по крайней мере, пока) быть стороной в правовых отношениях в треугольнике «пациент — государство — врач». А это значит, что, как бы ни хотелось сказать «алгоритм ведет диагностику» или «ИИ поставил диагноз», на самом деле диагноз не в теории или опыте, а в реальной жизни подписан живым врачом. А уж на что он опирался — на собственные знания или мнение супер-ИИ — дело десятое.
Есть еще одна отрасль применения ИИ в медицине — огромный и постоянно растущий сектор «заботы о здоровье» цифровыми инструментами: скачиваем приложение, коннектим его с фитнес-часами и видим: «приложуха» с использованием «прогрессивного ИИ» рассказывает нам о фазах сна, важности питьевого режима, необходимости ЗОЖ и прочем подобном. Очередная революция в этой области случится, когда часы или телефон научат неинвазивно измерять сахар в крови. С помощью приложения, дескать, можно заботиться о себе, быть здоровым и никогда не умирать. Но надо понимать, что это не имеет никакого отношения к медицине. Здесь в качестве медицинского сервиса продаются приложения и алгоритмы, которое заставляют пользователей проводить лишнее время за смартфоном. Хотя свою пользу такая забота, безусловно, ментально здоровому человеку принести может. С точки зрения общественного здравоохранения польза эта будет компенсирована, впрочем, перегрузкой системы за счет людей ментально нездоровых. «Доктор, у меня после миски меда сахар выше 6 поднялся, я умру?».
Я это не к тому говорю, чтобы пролить яд на любителей «велнес-приложений». Я пытаюсь показать, что медицинский ИИ — это набор очень разных историй с разной рыночной нишей, с разным потенциалом и инструментарием. Но всегда и в любом случае он не сможет заменить живого врача как представителя системы оказания медпомощи.
Неразберихи добавляет то, что не только пациенты не понимают точно, что такое медицинский ИИ. Даже врачи чаще всего не могут объективно представить, в чем суть работы искусственного интеллекта и чем он может им помочь или, наоборот, помешать. А разработчики алгоритмов зачастую не представляют, что такое система оказания медпомощи. Не в смысле алгоритм сравнивает снимок, на котором непонятно что, со снимком, на котором достоверная ковидная пневмония, и выдает вердикт — оно / не оно. А именно система общественного здравоохранения. В результате возникает воронка взаимных неоправданных ожиданий, в которой неизбежны разочарования.
Риски: деградация врачей, формальное лечение по алгоритмам
— У нейросети нет самостоятельности, которая позволяет принимать решение в контексте конкретной ситуации. Каковы риски резкого и повсеместного внедрения ИИ в медицину?
— Главный риск состоит не в искусственном интеллекте как таковом, а в том, что с его помощью администраторы здравоохранения могут начать активно экономить средства и пытаться делегировать ИИ несвойственные ему функции.
Медицина — это не только чудесный акт излечения от болезни, но и набор экономических и гражданско-правовых процессов. Представим себе: диагностический анализ одного снимка «стоит» в калькуляции внутрибольничных расходов, например, 100 рублей. Держатель алгоритмов ИИ говорит: у нас уже обученный на десяти миллионах снимков алгоритм, мы готовы отдать его вам при условии оплаты 50 рублей за проанализированный снимок. При этом «процент погрешности» будет как у обычного рентгенолога — 10-15%. С точки зрения экономики — дико выгодно.
С точки зрения соблюдения прав пациентов — сложнее. Кто будет отвечать за эти самые «10-15%» ошибок? Кто, грубо говоря, пойдет за это в тюрьму? Здесь возникает история, что использовать алгоритм без врача нельзя. С другой стороны, врач начинает полагаться на алгоритм, получив возможность «отдать» ему значительную часть технической работы. Здесь мы и переступаем порог большого пространства рисков, главный из которых — системное снижение квалификации врачей. Если не «доверять» алгоритму и все делать самому, то зачем он вообще нужен? Если доверять полностью, то может возникнуть ситуация из анекдота: «Доктор сказал в морг, значит, в морг», где в роли доктора, отправляющего живого человека в один конец, выступает искусственный интеллект.
Кроме того, много вопросов вызывает диагностика орфанных — очень редких — болезней. Такое заболевание может встречаться в условном соотношении один случай на миллион человек и реже, и машинный разум его не распознает, особенно учитывая, что симптомы и широкая лабораторная картина этих патологий может соответствовать десятку существенно более распространенных заболеваний.
Есть и проблема с накоплением нового опыта для медицинской науки. Ведь современное поколение алгоритмов опирается на накопленный человечеством багаж знаний. Это может показаться удивительным, но новые болезни «открывают» достаточно часто. Человеческий организм при всех успехах науки — до сих пор терра инкогнита.
— Не деградируют ли доктора от такого? Ведь, например, использование годами парктроника с камерой заднего вида со временем снижает мастерство парковки водителя…
— Действительно, главный системный, долгосрочный риск внедрения ИИ в медицину — дисквалификация медперсонала, снижение статуса врача и профессии. И как решать эту проблему, не очень ясно. Парадокс в том, что, несмотря на риски и проблемы, альтернативы внедрению ИИ в здравоохранение и — шире — автоматизации процессов в нем попросту нет.
Медицина — тяжелая работа. Современный человек не очень хочет тяжелой работы, поэтому врачей становится все меньше относительно растущей потребности в них. Пандемия COVID-19 эту проблему усугубила, потому многие пожилые ушли или разочаровались в профессии, а молодежь, оценив общую ситуации в сфере, не очень хочет идти в медицину. Энтузиасты искусственного интеллекта говорят, что если мы не будем развивать этот самый ИИ, то у нас вообще некому будет лечить людей. Это отчасти правда, но вместе с тем на фоне этих процессов хочется «вместе с водой не выплеснуть ребенка». Как с развитием искусственного интеллекта сохранить у врачей клиническое чутье, клиническую смелость, способность пойти нестандартным путем, когда ситуация этого требует? Пожалуй, это ключевой вызов момента.
Кстати, в многочисленных дискуссиях в устах энтузиастов звучит мнение о том, что бедное население будет лечить искусственный интеллект, а живой врач станет роскошью для избранных. Это утверждение не очень выдерживает критики и выдает недостаточное понимание сути здравоохранения. Откуда «богатые» возьмут грамотного врача с разносторонним клиническим опытом, если у него не будет возможности его получить? Если бы академик Чазов не лечил тысячи «простых советских людей» перед тем, как стать академиком, он не мог бы хорошо лечить членов Политбюро. Так что мысль о том, что живой врач будет для богатых, а ИИ для бедных, абсурдна, хотя и утешает энтузиастов, которые, как правило, весьма обеспечены. Медицина, полностью и некритично основанная на искусственном интеллекте и алгоритмах, неизбежно зайдет в тупик.
Алгоритм может взять на себя медицинский документооборот
— Как можно использовать ИИ в медицине во благо? Например, можно ли с его помощью разгрузить врачей от непрофильной бумажной работы?
— Искусственный интеллект — это не панацея и не замена врачу или всей системе здравоохранения, а набор вспомогательных инструментов. Можно ли их использовать во благо? Да. Это как молоток: можно дом построить, можно голову проломить.
Сегодня мы уже можем наблюдать положительные практики, связанные с внедрением машинного разума. Прежде всего это оптимизация работы медучреждения. Алгоритмы вполне могут помогать врачам выполнять их формальные обязательства — вроде заполнения историй болезни, их анализ и маршрутизации документов пациентов. Уже сейчас в зарубежной практике распространены алгоритмы, обеспечивающие формальный документооборот больниц. Медицина — это же огромная BigData, колоссальное количество разного рода информации. Упорядочивание этих сведений вполне может взять на себя искусственный интеллект.
Также успешно искусственный интеллект применяется в фармацевтике — например, в качестве инструмента быстрого перебора молекул. Алгоритмы позволяют быстро определить, будут ли взаимодействовать молекулы в нужном ключе или нет. Когда медиа публикуют новость «ИИ открыл новый антибиотик, который спасет человечество», в реальности мы имеем дело именно с этим. ИИ помог фармацевтам «перебрать» большое количество известных молекул и выделить узкий круг кандидатных для создания препарата веществ. И очень нездоровая история начинается, когда предлагают не проводить клинические исследования, а «доверить» оценку безопасности и эффективности новых лекарств ИИ. Химические взаимодействия — это же алгоритмизируемая деятельность, а значит, можно не тратить деньги и время на испытания, когда за один клик ИИ построит модель, как будет работать то или иное лекарств. Но так это не работает. Хотя бы потому, что чтобы построить достоверную модель, нужно знать о моделируемом объекте существенно больше, чем сейчас известно про биологию человеческого организма.
Важно понимать, что искусственный интеллект не решит автономно наши проблемы со здоровьем. ИИ может быть только частью этой системы, но не должен менять правила игры. Все равно нужны врачи, больницы, маршрутизация, скорые помощи, лекарственное обеспечение, государственные закупки, администраторы, клинические исследования и, конечно же, сами врачи и медперсонал.
Зачастую люди забывают, что технический прогресс — это не смысл деятельности, а инструмент, помощник. Быстрее и эффективнее долететь на самолете, чем ехать на лошади два месяца. Но смысл и перелета на самолете, и движения на лошади — это попадание из точки А в точку Б, это понятная осмысленная человеческая деятельность. Человеческая!