Вы доверите свою жизнь компьютеру? Как работает ИИ в больницах Украины и насколько это безопасно

Может ли искусственный интеллект заменить врача в Украине и ставить диагнозы без человека?

По словам Александра Новохацкого, на сегодня искусственный интеллект не может полностью заменить врача, но он может быть очень мощным вспомогательным инструментом и значительно повысить уровень предоставления медицинских услуг.

"Если говорить о ближайших перспективах использования ИИ в медицинской практике, то наиболее реалистичной выглядит гибридная модель. В ней ИИ выступает "суперассистентом": мониторит состояние пациента, быстро обрабатывает данные (снимки, анализы, обследования и т.д.), подбирает на основе протоколов диагнозы и предлагает варианты планов лечения", - говорит эксперт.

В свою очередь врач использует эту информацию для принятия окончательного обоснованного решения, обеспечивая "индивидуальный подход и человеческую заботу".

При этом, по словам специалиста, не надо забывать, что медицина - это не только наука, но и искусство, ведь "очень важным фактором является умение врача найти контакт с пациентом, построить доверие, успокоить и объяснить сложную информацию простым языком".

Это жизненно важно для соблюдения пациентом плана лечения.

Направления медицины, где инструменты ИИ являются наиболее эффективными сегодня

Специалист рассказал, что ИИ очень эффективно справляется с задачами, где нужно работать с большими объемами информации, особенно визуальной.

Больше всего ИИ сейчас применяют в таких направлениях.

Кардиология

Обработка данных ЭКГ уже сегодня позволяет выявлять сложные аритмии, различные патологические состояния со стороны сердечно-сосудистой системы и прогнозировать риски сердечно-сосудистых заболеваний.

Сейчас доступно большое количество смарт-устройств (смарт-часы, браслеты, кольца, кардиомониторы), позволяющих в режиме реального времени собирать все показатели здоровья, а ИИ анализирует эти данные и отслеживает риски.

Учитывая то, что смертность в Украине вследствие сердечно-сосудистых заболеваний составляет более 60% от общего показателя, то внедрение технологий в этой сфере является критически важным, ведь поможет существенно снизить эти цифры.

Онкология

ИИ может анализировать образцы ткани (биопсии) и определять тип опухолей, степень их агрессивности. На основе генетических данных и характеристик опухолей ИИ может прогнозировать реакцию на различные препараты и помогать подобрать индивидуальную стратегию лечения.

Радиология и нейрология

Эти направления являются лидерами по использованию ИИ в мире. Искусственный интеллект идеально анализирует изображения: МРТ, КТ, маммографию, рентген и выявляет патологические состояния (переломы, пневмонию, узлы, признаки инсульта, рак молочной железы и т.д.).

Персонализированная медицина

ИИ-анализ геномных данных (ДНК), истории болезни, образа жизни дает возможность определить риски возникновения различных заболеваний и сформировать индивидуальный план лечения и профилактики заболеваний.

Кто несет ответственность за ошибки ИИ в больницах Украины?

Новохацкий объясняет, что риски применения ИИ в медицине можно разделить на четыре группы: клинические, касающиеся безопасности, этические и юридические.

Клинические риски

ИИ может выдавать предвзятые результаты. Причиной этого часто является недостаточный или несбалансированный набор данных, на которых обучается модель.

"Например, модель обучали на наборах данных граждан Европы или, наоборот, на данных граждан Индии или Африки. Каждый из таких регионов имеет свою культуру медицины и физиологические особенности", - отметил Новохацкий.

Он подчеркнул, что применение такой модели ИИ в других регионах может дать непредсказуемые результаты - "клиническую несправедливость".

Конфиденциальность и безопасность

"Это один из самых обсуждаемых рисков. Для обучения модели необходимы огромные массивы информации (истории болезней, снимки, анализы, исследования, тесты и т.д.), и сосредоточение таких данных в одном месте создает соблазн для хакеров получить доступ к ним с последующим обнародованием (или шантажом владельцев этих данных)", - отметил эксперт.

Причем даже деперсонализация данных не решает полностью вопрос конфиденциальности, поскольку по набору данных, особенно в комбинации с данными из других источников, можно повторно персонифицировать пациентов.

Этические риски

Использование различных инструментов ИИ позволяет получать ответы на множество вопросов.

"Мы постепенно начинаем "верить" ИИ и принимать все его ответы, как истину. Это прослеживается и в случае использования ИИ в медицине: врачи могут слишком полагаться на рекомендации ИИ и игнорировать собственное критическое мышление и опыт, тогда как модели могут давать ошибочные решения. Это может привести к необратимым последствиям", - подчеркнул Александр.

Также, по его словам, чрезмерное сосредоточение на технологиях может привести к тому, что врач будет меньше времени уделять эмпатической коммуникации и общению с пациентом.

Юридические риски

Эксперт рассказал, что вопрос юридической ответственности при использовании искусственного интеллекта в медицине пока что находится на начальном этапе развития во всем мире.

Нормативное регулирование и судебная практика в этой сфере еще формируются, а страны постепенно нарабатывают подходы к определению границ ответственности между врачом, разработчиком технологии и медицинским учреждением.

Ответственность за принятые решения - один из самых острых вопросов в современной медицине, в которой цифровые технологии становятся частью диагностики и лечения.

"Искусственный интеллект может ошибаться, как и человек. Но, в отличие от врача, ИИ не является субъектом права, а значит, не может нести юридическую ответственность", - подчеркнул Новохацкий.

На сегодня ответственность за решение, принятое на основе ИИ, лежит на людях и организациях, которые эту технологию применяют или создают. В большинстве юрисдикций действует следующая логика:

• если врач использует ИИ как вспомогательный инструмент и соглашается с его рекомендацией, ответственность несет врач или медицинское учреждение
• если ошибка произошла из-за дефекта алгоритма или некорректных данных, ответственность может быть возложена на разработчика или поставщика ПО
• если пациент самостоятельно пользуется приложением для самодиагностики, ответственность ложится на пользователя

В Европейском Союзе новый Акт об искусственном интеллекте (EU AI Act, 2024) уже классифицирует медицинские системы как "высокорисковые", поэтому они должны проходить сертификацию, аудит безопасности и контроль качества.

В Украине такие нормы пока только формируются, но очевидно: в будущем главным принципом станет "человек в центре решения". То есть врач всегда должен оставаться тем, кто проверяет, интерпретирует и делает окончательное заключение.

Когда ИИ сможет выполнять большинство диагностических задач точнее врача

Сегодня искусственный интеллект стремительно развивается, и его роль в медицине становится все более весомой.

Эксперты прогнозируют, что уже через 5-10 лет ИИ сможет выполнять большинство диагностических задач с точностью, превышающей человеческую.

"Впрочем, он не будет самостоятельным врачом, а будет оставаться интеллектуальным помощником, который анализирует данные и помогает специалистам принимать обоснованные решения", - уверен специалист.

Реальные примеры внедрения ИИ в украинских клиниках сегодня

Новохацкий говорит, что в Украине использование ИИ - это уже не просто теория.

Некоторые частные и государственные клиники используют решения для анализа изображений, которые уже имеют алгоритмы ИИ. Обработка и описание с помощью ИИ результатов лабораторных исследований - это тоже уже практическое решение, которое показывает отличные результаты.

Он добавил, что в Украине также активно развиваются ИИ-стартапы, которые работают в сфере превентивного здоровья, кардиологии, дополненной реальности в нейрохирургии, роботизированной хирургии и тому подобное.