Осторожно с искусственным
В Ростове обсудили возможности и проблемы применения ИИ в медицине
С начала 2025 года в Ростовской области с помощью технологии искусственного интеллекта удалось обработать 15 тыс. медицинских изображений, в 35% из которых выявили патологии. Возможность при помощи ИИ анализировать снимки и выделять на них проблемные участки в регионе открыта для 92 государственных учреждений здравоохранения, обслуживающих взрослое население. Уровень обработки медицинских изображений, на который сейчас вышли донские медики, превышает 1,5 тыс. единиц в неделю. ИИ в медицине – это не просто модная вещь, а реальный инструмент. Он помогает врачу и даже предлагает варианты решения той или иной проблемы. Однако решающее слово всегда должно оставаться за специалистом. К такому выводу пришли участники круглого стола «Лечить по-новому: возможности применения ИИ и цифровых технологий в медицине», который организовал «Ъ-Ростов».
Фото: Андрея Бойко
Фото: Андрея Бойко
По данным Национального центра развития искусственного интеллекта при Правительстве РФ, в здравоохранении уже более трети организаций страны используют ИИ в своей деятельности, а 20,6% планируют это сделать в ближайшее время. Информация о пациенте в связке с использованием интеллектуальных систем позволяет прогнозировать развитие заболеваний до появления симптомов, ставить правильные диагнозы и оптимизировать работу персонала медучреждения.
В новом федеральном проекте по созданию в здравоохранении единой цифровой системы стоит задача обеспечить 50 млн человек с социально значимыми хроническими неинфекционными заболеваниями цифровыми сервисами постоянного мониторинга здоровья при сохранении существующего количества медперсонала. Это требует использование специальных ИИ-алгоритмов, эффективных медицинских гаджетов и приложений. Но это – в будущем. А то, какие инструменты ИИ уже применяются в медицине, как это помогает врачам взаимодействовать с пациентами, какие возможности и угрозы несет – обсудили участники круглого стола «Ъ-Ростов», который проходил в конференц-зале Radisson Hotel Gorizont Rostov-on-Don 4*.
Помощник, но не коллега
С 2019 года Минздрав РФ и правительство Ростовской области уделяют серьезное внимание вопросам цифровизации медицинской сферы, подчеркнул замминистра здравоохранения региона Роман Банацкий. «Внедрение “цифры” шло активно, — добавил чиновник. — Пиковым для нас стал 2024 год, когда, в рамках исполнения поручения президента РФ, областной минздрав для нужд медорганизаций приобрел исключительные права на единую медицинскую информационную систему (ЕМИС), разработанную ростовскими программистами. В итоге, мы все государственные учреждения подключили к ЕМИС. Она находится в реестре отечественного ПО».
Роман Банацкий, заместитель министра здравоохранения Ростовской области
Фото: Андрея Бойко
Роман Банацкий, заместитель министра здравоохранения Ростовской области
Фото: Андрея Бойко
По словам спикера, в рамках проекта создания единого цифрового контура здравоохранения минздрав Дона закупил ряд подсистем. Их условно можно разделить на две группы – для врача и для пациента (дистанционная запись к врачу, электронная история болезни и др. опции). Среди таких подсистем есть и Цифровой архив медицинских изображений (ЦАМИ), позволяющий большое количество визуальной информации хранить на «облачной» платформе.
«Это большой архив медицинских изображений Ростовской области со снимками, которые анализирует ИИ для автоматического выявления и анализа признаков заболевания, в том числе, сложных патологий и злокачественных образований, — продолжил Роман Банацкий. — Специалист делает снимок (рентген, флюорографию, КТ) и отправляет его на платформу МосМедИИ (для этого был заключен договор с департаментом здравоохранения Москвы) и буквально через пару секунд снимок возвращается с “разметкой”. Искусственный интеллект выделяет участки, которые считает сомнительными: орган увеличен, наклонен, обнаружены новообразования и т. д. Врач, получив такую информацию, сам принимает решение, ставит диагноз. ИИ просто облегчает работу врачу, а не делает ее».
Чиновник сообщил, что сегодня такая возможность в регионе открыта для 92 государственных медучреждений, обслуживающих взрослое население. По состоянию на 1 июля, отправлено и обработано более 15 тыс. снимков. «Сейчас донские врачи вышли на уровень более 1,5 тыс. обработанных снимков в неделю. Опыт показал, что примерно в 35% снимков ИИ выявил патологии. После этого врач направляет пациента на дополнительное исследование. Наша цель – выйти на 50% снимков, которые должны быть обработаны ИИ», — подытожил Роман Банацкий.
Редакционный директор «Актион Медицина» Наталья Журавлева обратила внимание на принципиальный момент: ИИ — помощник врача, а не его замена. Несмотря на удобства и преимущества, искусственный интеллект никогда не заменит врача полностью, подчеркнула госпожа Журавлева. Особенно, когда речь идет о диагностике, общении с пациентами и хирургии. «В 2024 году мы проводили исследование и выяснили, что почти 57% врачей в России в том или ином виде применяют ИИ хотя бы раз в квартал, — сообщила эксперт. — 42% респондентов заявили, что отлично понимают, как все это работает. И только 9% признались, что просто знают такие слова как “искусственный интеллект” и “чат-бот”, но не более того».
Наталья Журавлева, редакционный директор «Актион Медицина»
Фото: из личного архива
Наталья Журавлева, редакционный директор «Актион Медицина»
Фото: из личного архива
По словам Натальи Журавлевой, на юге РФ около 45% врачей понимают возможности использования ИИ и то, как он работает, а почти 13% опрошенных знают о существовании ИИ и сервисов на его основе, но ими не пользуются. При этом, 60% опрошенных медиков ЮФО каждый день ежедневно пользуются возможностями нейросетей, а 57% — раз в квартал.
«По мнению врачей, распространению и более широкому применению ИИ в Ростовской области мешает недостаток перспективных разработок и знаний о том, как эти разработки внедрять, — сообщила госпожа Журавлева. — Однако медики региона нацелены на то, чтобы активнее использовать искусственный интеллект и повышать уровень владения цифровыми инструментами на основе ИИ. Кстати, практика анализа ИИ медицинских изображений — это не просто понятная история, которая развивается в России и регионах, но и общемировой тренд».
Андрей Мокеев, директор по маркетингу сети клиник «УРО-ПРО»
Фото: Андрея Бойко
Андрей Мокеев, директор по маркетингу сети клиник «УРО-ПРО»
Фото: Андрея Бойко
Директор по маркетингу сети клиник «УРО-ПРО», эксперт по цифровой трансформации частной медицины Андрей Мокеев согласился с тем, что искусственный интеллект — это история не про замену врача. «Речь скорее про усиление здравого смысла данными и снижение неопределенности при принятии решений, — пояснил топ-менеджер. — Сегодня цифровая зрелость клиник из конкурентного преимущества превратилась в вопрос выживания в условиях растущих издержек и повышающихся ожиданий пациентов. Если говорить предметно, то наиболее практическую ценность сейчас демонстрирует использование узкоспециализированных инструментов на стыке ИИ и управленческой аналитики. Ключевой вызов при их внедрении — это уровень организационной подготовленности клиник, а затем уже их технологическая готовность. ИИ усиливает эффект там, где уже выстроены процессы, где есть культура работы с данными и открытость к междисциплинарному взаимодействию с участием IT-специалистов, врачей, маркетинга и управленцев».
Общее для разных сфер
Главврач и основатель «Стоматологическая клиника доктора Шувалова» Олег Шувалов заметил, что опытный доктор видит проблему на любом КТ- или МРТ-снимке, а искусственный интеллект просто серьезно облегчает эту задачу, обозначая воспаленные участки. «У стоматологов есть специализированное решение на основе ИИ, которое позволяет провести качественную диагностику ротовой полости и своевременно обнаруживать проблемные зоны, — рассказал эксперт. — ИИ подсвечивает проблему буквально на каждом зубе пациента и показывает скрытые (от глаз стоматолога) зоны кариеса. Мы обязаны увидеть их и вылечить так, чтобы человек не пришел к нам потом с осложнениями. С ними намного труднее бороться, чем с первоначально выявленной болезнью».
Олег Шувалов, главврач и основатель «Стоматологическая клиника доктора Шувалова»
Фото: Андрея Бойко
Олег Шувалов, главврач и основатель «Стоматологическая клиника доктора Шувалова»
Фото: Андрея Бойко
Важный момент, по мнению господина Шувалова, обнаружить не только заболевание, но и предпосылки к новому воспалению, которые при визуальном осмотре не видны. Это позволяет делать диагностическое оборудование с подключенным искусственным интеллектом: аппарат снимает, ИИ определят проблемные зоны, доктор анализирует, ставит диагноз, назначает терапию и более точно определяет время, которое потребуется на полное и качественное лечение.
Стоматолог-терапевт, парадонтолог, заведующий терапевтическим отделением клиник «Доктор Келлер» Исмаил Байрамкулов отметил, что стоматология цифровизируется семимильными шагами. «Например, на этапе диагностики состояния пациента применяется внутриротовой сканер, с помощью которого врач может вывести на экран 3D-модель челюсти и мягких тканей ротовой полости, — объяснил специалист. — Это хорошо помогает донести информацию человеку, далекому от медицины. Пациент видит на изображении челюсть, зубы и десну. ИИ помогает врачу обнаружить скрытые проблемные участки. Таким образом, формируется отчет, который пациент может получить на руки. Также в клиниках используется лицевой сканер, который позволяет создавать 3D-изображение головы, лица и шеи. Такое оборудование синхронизируется со сканером зубов и компьютерным томографом, что дает полную картину зубочелюстного аппарата с мягкими тканями и лицом. Это — возможность визуализировать и планировать на приеме вместе с пациентом будущее лечение».
Стоматолог-терапевт, парадонтолог, заведующий терапевтическим отделением клиник «Доктор Келлер» Исмаил Байрамкулов
Фото: Андрея Бойко
Стоматолог-терапевт, парадонтолог, заведующий терапевтическим отделением клиник «Доктор Келлер» Исмаил Байрамкулов
Фото: Андрея Бойко
По мнению Исмаила Байрамкулова, ИИ также может прогнозировать ортодонтический результат, лечение сустава. Таким образом, уверен врач, искусственный интеллект является хорошим вспомогательным элементом и для стоматолога, и для пациента.
Косметология в Ростовской области сталкивается с рядом серьезных проблем, которые могут негативно сказываться на качестве услуг и удовлетворенности пациентов, заметил директор клиники «Лазер Планет» Виталий Орехов. По его словам, одна из ключевых проблем — наличие недобросовестных практиков, использующих ИИ для диагностики и рекомендаций. Это приводит к неправильным выводам и, как следствие, к неэффективному лечению, уверен топ-менеджер. «Например, пациенты часто приходят в клинику с диагнозами и рекомендациями, сформированными на основе алгоритмов, которые не всегда учитывают индивидуальные особенности, что вызывает удивление у больных, когда мнение врача отличается от машинного, — рассказал господин Орехов. —
Виталий Орехов, директор клиники «Лазер Планет»
Фото: Андрея Бойко
Виталий Орехов, директор клиники «Лазер Планет»
Фото: Андрея Бойко
Мы столкнулись с несколькими случаями, когда пациенты приходили к нам после консультации с независимыми приложениями и ИИ-системами, которые, хотя и могут давать некоторые полезные советы, не заменяют личное общение и углубленное обследование специалиста».
Директор клиники подчеркнул, что каждый пациент уникален и, зачастую, для полноценного анализа необходимо учитывать множество факторов, которые машина может не заметить. Для решения таких проблем в косметологии активно используется ИИ в качестве дополнения к традиционной практике. «Так, алгоритмы помогают в первичном анализе данных пациента, обработке изображений, выявлении признаков старения кожи или др. эстетических недостатков. Однако все эти данные затем анализирует врач-косметолог. Он и принимает окончательное решение, основываясь на общем состоянии здоровья пациента и его индивидуальных пожеланиях», — объяснил Виталий Орехов.
Он добавил, что в рамках повышения качества услуг проводятся образовательные программы и семинары для сотрудников клиник на тему правильного использования ИИ в косметологии. Это помогает предотвратить случаи неправильного применения технологий и улучшает взаимодействие с пациентами, резюмировал эксперт.
Роман Данильченко, заведующий рефракционным отделением, врач-офтальмолог высшей категории, ведущий офтальмохирург глазной клиники «ИРИС» доктора О.Б. Кочмала
Фото: Андрея Бойко
Роман Данильченко, заведующий рефракционным отделением, врач-офтальмолог высшей категории, ведущий офтальмохирург глазной клиники «ИРИС» доктора О.Б. Кочмала
Фото: Андрея Бойко
Роман Данильченко, заведующий рефракционным отделением, ведущий офтальмохирург глазной клиники «ИРИС» доктора О. Б. Кочмала, заметил, что последние десятилетия характеризуются активной цифровизацией различных областей медицины, и офтальмология — не исключение. «Средства, которые на это выделялись, позволили медучреждениям закупить высокотехнологичное оборудование, позволяющее накапливать большой объем данных, в том числе, медицинских изображений, — уверен эксперт. — Усилению цифровизации способствовало появление в нашей сфере большого количества коммерческих клиник. В борьбе за пациента передовые технологии, в том числе и ИИ, играют определяющую роль. Государственные медучреждения стараются быть в тренде. В итоге, это уже привело к накоплению большого объема данных о пациентах».
По мнению господина Данильченко, современные алгоритмы позволяют обрабатывать информационный массив. Например, в офтальмологии это открыло возможность работать в нескольких направлениях — диагностика (нейросети используются для изучения глазного дна и обработки полученной информации), изучение патологий (для назначения либо коррекции лечения), прогнозирование риска развития заболеваний (в частности, глаукомы), выбор искусственных хрусталиков (имплантов), которые применяются в катарактальной хирургии (для замены помутневшего хрусталика).
«То, какой именно имплант надо ставить, хирург определяет на основании точных расчетов, — пояснил Роман Данильченко. — Они производятся при помощи специальных приборов — биометров, которые измеряют параметры глаза и по формуле рассчитывают нужную силу оптики (искусственного хрусталика). Современная хирургия катаракты подразумевает использование премиальных имплантов, позволяющих человеку полностью восстановить зрение и избавиться от линз или очков. Но подбор такого хрусталика требует абсолютной точности при расчетах. Малейшая погрешность и пациенту, которому установили такой имплант, надо будет делать повторную операцию, чтобы полностью восстановить зрение. Для таких расчетов и используется ИИ, способный проанализировать десятки тысяч случаев, соотнести с расчетами по конкретному случаю, выявить погрешности и внести поправки. В итоге — операция, не требующая повторного вмешательства».
Ассистент кафедры здорового образа жизни и диетологии ФГБОУ ВО РостГМУ Минздрава России, врач эндокринолог-диетолог Яна Бурлачко обратила внимание на то, что в России зарегистрировано около 40 изделий с применением технологии искусственного интеллекта. «Большая часть из них — отечественные разработки, — подчеркнула эксперт. — Сейчас они активно используются для систем поддержки принятия врачебных решений (электронные карты, анализ лабораторных и экспериментальных данных и т. д.). Основной вопрос по урегулированию использования ИИ — понимания самими врачами того, для чего именно эта технология применяется. Изделия с применением ИИ должны иметь соответствующие маркировку и сертификацию (с определением уровня риска этих систем). То есть, должна быть ответственность (разработчика) за причинение искусственным интеллектом вреда здоровью человека».
Яна Бурлачко, врач эндокринолог-диетолог, ассистент кафедры здорового образа жизни и диетологии ФГБОУ ВО РостГМУ Минздрава России, член Ассоциации диетологов Дона
Фото: из личного архива
Яна Бурлачко, врач эндокринолог-диетолог, ассистент кафедры здорового образа жизни и диетологии ФГБОУ ВО РостГМУ Минздрава России, член Ассоциации диетологов Дона
Фото: из личного архива
По мнению Яны Бурлачко, для того, чтобы применять ИИ в диетологическом консультировании, использование этого инструмента должно быть научно обоснованным и помогать врачу персонифицировать помощь пациенту (например, по рациону, ведение дневника питания). Проще говоря, такая система должна осуществлять автоматический сбор информации и ее обработку, что серьезно экономит время врача и облегчает ему работу: он может больше внимания уделять пациентам, понимая, как именно им помочь, пояснила эксперт. «Но для начала доктор должен обучиться тому, как система работает. Сейчас есть отечественные программы, позволяющие переводить большое количество данных (в том числе из медицинской литературы, справочников) на язык цифр и просчитывать их, сопоставлять с данными о пациенте, делать выводы. По итогам такой огромной и серьезной аналитической работы врач принимает решение. Но прежде, чем работать на таком уровне, доктор должен учиться. Это также заложено в самом продукте — идет первым пунктом», — рассказала представитель РостГМУ.
Технологии ради жизни
Врач-кардиолог, региональный представитель Ассоциации медицинских специалистов по модификации рисков в Ростовской области Татьяна Таютина отметила, что искусственный интеллект уже меняет медицину — и не только в виде сложных алгоритмов, которые распознают МРТ или анализируют большие массивы данных. «Его сила — в том, чтобы сделать заботу доступной, персональной и своевременной для каждого пациента, — объяснила эксперт. — Например, для людей с хронической обструктивной болезнью легких (ХОБЛ) технологии на базе ИИ уже помогают вести наблюдение за симптомами, напоминать о приеме терапии и даже заранее предупреждать об ухудшении состояния. Все это — в обычном смартфоне, в любое время».
Татьяна Таютина, к.м.н., доцент, врач-терапевт, врач-кардиолог, региональный представитель Ассоциации медицинских специалистов по модификации рисков в Ростовской области
Фото: Андрея Бойко
Татьяна Таютина, к.м.н., доцент, врач-терапевт, врач-кардиолог, региональный представитель Ассоциации медицинских специалистов по модификации рисков в Ростовской области
Фото: Андрея Бойко
По словам госпожи Таютиной, особую роль искусственный интеллект может сыграть и в поддержке отказа от курения — одного из ключевых факторов риска при ХОБЛ. Такие системы способны отслеживать поведение, учитывать уровень зависимости, мотивацию, образ жизни, эмоциональный фон. И на основе этого подбирать наиболее эффективную и щадящую стратегию отказа.
«Для одних это может быть постепенное снижение количества сигарет, использование никотинзаместительной терапии, психологическая поддержка, или, в случае тяжелой табачной зависимости, переход на научно признанные альтернативы, которые существенно снижают воздействие токсичного табачного дыма, по сравнению с продолжением курения. ИИ здесь — не просто помощник, а инструмент для выбора пути с наименьшим риском и наибольшей пользой для конкретного человека. Это технология не ради технологий, а ради жизни», — подытожила эксперт.
ИИ стал реально работающим инструментом в помощь врачам-диагностам, заметила специалист по развитию бизнеса ГК «АЙТЭМС» Марина Пудовкина. «Например, при проведении КТ-исследований сейчас широко применяется машинное обучение — технология на основе ИИ, — напомнила эксперт. — Ведущие компании, мировые лидеры, оснастили такой опцией свое оборудование. Применение ИИ позволяет оптимизировать время, необходимое на рентгеновское исследование. Поскольку время снижается, то уменьшается доза облучения пациента. На основании даже минимального количества полученных снимков ИИ способен проанализировать и смоделировать полноценную картину патологии. Вычислительная обработка изображений в ряде случаев исключает использование контрастирующего вещества в процессе исследования, что также снижает риск здоровью пациента».
Марина Пудовкина, специалист по развитию бизнеса ГК «АЙТЭМС»
Фото: из личного архива
Марина Пудовкина, специалист по развитию бизнеса ГК «АЙТЭМС»
Фото: из личного архива
По мнению Марины Пудовкиной, машина более внимательна к деталям и способна эффективнее, чем человек, различать минимальные зоны поражения, а значит и обнаруживать заболевание на самой ранней стадии. «В ряде случаев вычисления позволяют составлять прогноз развития болезни. Безусловно, ИИ не заменит врача, но он вполне способен снять с медперсонала часть рутинных задач, отнимающих много времени и сил», — резюмировала эксперт.
Разработанную в Ростовской области нейросеть-анализатор планируют массово внедрить в систему здравоохранения к 2030 году, сообщила профессор кафедры «Биоинженерия» Донского государственного технического университета (ДГТУ) Евгения Кириченко. По задумке авторов, web-платформа «МедЦифра» (название находится в разработке) объединит систему анализа биопроб человека или животного, лазерную микроскопию и базу научных публикаций для проверки гипотез и постановки диагноза. Профессор также уточнила, что сервис доступен пользователям, но команда университета продолжает его разработку и обучение. Планируется, что к 2030 году «МедЦифра» может быть внедрена в половину профильных медучреждений и медвузов России.
Евгения Кириченко, доктор биологических наук, заведующая кафедрой «Биоинженерия», главный научный сотрудник лаборатории «МедЦифра»
Фото: Андрея Бойко
Евгения Кириченко, доктор биологических наук, заведующая кафедрой «Биоинженерия», главный научный сотрудник лаборатории «МедЦифра»
Фото: Андрея Бойко
Также Евгения Кириченко рассказала, что в 2026 году в Ростовской области намерены ввести в эксплуатацию цифровую платформу, предназначенную для ускоренного анализа изображений крови с помощью ИИ, а к 2030-му уровень внедрения этого решения в медучреждениях Дона довести до 50%. «Ученые работают над созданием цифровой платформы с набором нейросетевых ассистентов в Институте живых систем на базе ветеринарного факультета, — уточнила госпожа Кириченко. — Сейчас платформа работает в тестовом режиме, создатели намерены зарегистрировать ее в Росреестре как медицинское изделие, созданное на базе программного обеспечения (ПО). Мы готовим демо-версию для того, чтобы ее протестировать в медучреждении. Стоим на пороге получения регистрационного удостоверения. Сейчас в этом реестре мало программ, ориентированных на цитологические исследования».
По словам Евгении Кириченко, для создания цитологической веб-платформы было несколько предпосылок. Во-первых, отсутствие своевременной скорой медпомощи из-за недостатка персонала, который приходится готовить десятилетиями. Во-вторых, малодоступная, низкокачественная и долгая диагностика и, как следствие, смертность пациентов из-за ошибок и «выгорания» врачей.
«Мультимодальная платформа для исследователей и специалистов в сфере биомедицины позволяет работать с датасетом большого объема из любых концов страны и мира, — пояснила эксперт. — Создание платформы было профинансировано фондом поддержки инноваций и молодежных инициатив Санкт-Петербурга, а также грантом Министерства образования и науки на создание молодежной лаборатории. В результате реализации проекта уже собраны датасеты для нейросетевых ассистентов: изображения астроцитов конфокальной лазерной микроскопии — 18455 фото, цифровые изображения окрашенных мазков крови — 1382 фото, цифровые изображения неокрашенных осадков мочи — 1001 фото, цифровые изображения окрашенных мазков церикального канала — 525 фото, цифровые изображения срезов опухолей ЦНС — 187 фото, цифровые изображения слизистой носа — 51 фото. Все изображения обезличены и каждому присвоен персональный номер».
По планам ученых ДГТУ, такая платформа будет использоваться в медицине, науке и образовании. В вузе уверены, что это технологическое решение поможет создать поколение хороших цитологов. Кроме того, это еще и возможность создавать новые образовательные программы и сократить сроки подготовки таких специалистов. «Если повезет, то помимо фундаментальных знаний, ведущих школ, образовательных программ и статей мы получим новое решение, которое будет установлено в 50% медучреждений и медуниверситетов региона», — подытожила Евгения Кириченко.
Сквозь призму права, фактов и этики
Борис Борисов, генеральный директор и управляющий партнер консалтингового бюро «Доктор права Колесников и партнеры», напомнил, что в России принят кодекс этики применения ИИ в сфере охраны здоровья. Однако он носит не обязательный, а рекомендательный характер. «Поэтому сейчас для государства самый простой способ “наказать” бизнес за ошибки при работе ИИ — зайти со стороны персональных данных (ПД), – пояснил юрист. — Все больше компаний обеспечивают возможность гибкой настройки ИИ-менеджера, который будет отрабатывать входящий поток клиентов в автоматическом режиме. Когда мы говорим о чат-боте, то уже на входе понятно, что он лишь получает информацию по заранее установленным формам. Совершенно другая ситуация с ИИ-менеджерами: потенциально их можно настроить настолько тонко, что какое-то время клиент и вовсе не поймет, что общается не с живым человеком. Ни в кодексе этики, ни в других законах у компаний нет обязанности уведомлять клиента».
Борис Борисов, генеральный директор и управляющий партнер консалтингового бюро «Доктор права Колесников и партнеры»
Фото: Андрея Бойко
Борис Борисов, генеральный директор и управляющий партнер консалтингового бюро «Доктор права Колесников и партнеры»
Фото: Андрея Бойко
По мнению господина Борисова, с этической точки зрения клиента (или, в случае с медорганизациями, пациента) надо уведомлять о том, что он общается с «роботом». С коммерческой, если это влияет на конверсию, уведомлять не стоит. «Поэтому, общий совет тут следующий: если организация ввела или только планирует вводить ИИ в общении с пациентами, достаточно соблюсти базовые правила обработки ПД. Например, необходимо “маскировать” их. В любом случае, идет ли работа с зарубежными или отечественным ИИ-провайдерами. Надо прямо спрашивать у интегратора (IT-подрядчика) о применении “маскировки” данных. Этот механизм позволяет автоматически исключать из сведений, отправляемых провайдеру, персональные данные, а по возвращении от провайдера ответа — возвращать ПД обратно», — рассказал Борис Борисов.
Он заметил, что один из самых популярных способ сбора ПД от клиента — это чат-боты. Если медучреждение решило собирать персональные данные таким способом, то требуется согласие субъекта ПД на их обработку. «Во-первых, перед отправкой сообщения с ПД нужно сделать чек-бокс: “Отправляя сообщение, вы даете согласие на обработку персональных данных”. Во-вторых, лицо должно дать активное согласие — нажать на соответствующую кнопку. Еще одно главное требование — разместить нормативную базу на сайте перед использованием чат-бота. То есть, перед сбором личных данных чат-бот должен предоставить ссылки на Политику конфиденциальности и Согласие на обработку ПД», — резюмировал юрист.
Заместитель генерального директора по информационным технологиям ФГБУ «Национальный медицинский исследовательский центр онкологии» Минздрава России Олег Шарапов разделил тех, кто имеет отношение к технологиям ИИ в сфере здравоохранения на четыре группы: органы управления, разработчики решений в области ИИ и разработчики медицинских информационных систем, медорганизации и пациенты. «Вопросы есть по всем категориям, — подчеркнул эксперт. — Так, что касается органов управления здравоохранением, в Ростовской области процесс пошел, отправлено и обработано порядка 15 тыс. изображений, но необходимо тщательно проанализировать полученные результаты: насколько они совпали с тем, что видели сами врачи. Для того, чтобы понимать сколько раз ИИ ошибался. Ведь не секрет, что ИИ никогда не дает на 100% верный результат. Сами разработчики говорят о 80-95%. Соответственно, при исследовании каждого 20 медицинского изображения ИИ может выдать неверный результат».
Олег Шарапов, заместитель генерального директора по информационным технологиям ФГБУ «Национальный медицинский исследовательский центр онкологии» Минздрава России
Фото: Андрея Бойко
Олег Шарапов, заместитель генерального директора по информационным технологиям ФГБУ «Национальный медицинский исследовательский центр онкологии» Минздрава России
Фото: Андрея Бойко
По мнению господина Шарапова, не всегда понятно, откуда разработчики берут данные, которые учитывают при создании того или иного ИИ-инструмента для медицины, являются ли такие системы обучаемыми и учитывают ли они те самые 5% неверных результатов, которые ИИ выдавал при анализе снимков (КТ, МРТ и др.). «Таким образом, к разработчикам пожелание такое: чтобы история взаимодействия медучреждения с ИИ сохранялась в системе и при анализе визуальной информации искусственный интеллект учитывал не только положительный опыт такого “сотрудничества”. То есть, чтобы в памяти такой программы (сервиса) была информация как о полном совпадении заключения ИИ с мнением врача, так и о частичном совпадении этих заключений, а также их полном несовпадении», — сказал эксперт.
Он добавил, что медорганизации, пользующиеся возможностями ИИ для проведения исследований, должны подключать к этому врачей высокой квалификации, способных понять как часто, для чего стоит пользоваться ИИ-инструментами и как именно относиться к заключениям, которые искусственный интеллект выдает. Цена ошибки в медицине очень высока, подчеркнул эксперт. «Многопрофильным и специализированным медучреждениям региона также необходимо взаимодействовать друг с другом в части использования возможностей ИИ. Это важно при сопоставлении результатов по одним и тем же или похожим случаям», — отметил Олег Шарапов.
По его словам, отдельным дискуссионным вопросом является необходимость информирования пациентов о том, что исследование для них будет выполняться или выполнялось с использованием ИИ. «На этапе начала процесса внедрения ИИ-технологий, медорганизации, скорее всего, можно не заострять внимание на этом вопросе. Тем более, что медицинское заключение подписывает врач и именно ему стоит доверять пациенту свое здоровье», — резюмировал эксперт.