Нейросетям диагностировали неопределенность
Минздрав, ученые и эксперты обсудили будущее ИИ в медицине
Доверие к ИИ-технологиям в здравоохранении по-прежнему остается на низком уровне: неясно, действительно ли они помогают врачам или уже частично их заменяют, а также можно ли доверять нейросетям в постановке диагнозов. Эти и другие вопросы стали предметом обсуждения 26 июня на одной из сессий Петербургского международного юридического форума, где встретились эксперты из Минздрава, ВОЗ и Всероссийского союза пациентов. Хотя единого мнения эксперты не выработали, они согласились, что многие из поднятых тем требуют законодательного регулирования. Один из ученых даже предложил разработать «суверенный и доверенный» медицинский ИИ, который будет работать исключительно с российскими данными.
Фото: Евгений Павленко, Коммерсантъ
Фото: Евгений Павленко, Коммерсантъ
В пятницу, 26 июня, в заключительный день Петербургского международного юридического форума (ПМЮФ) прошла сессия по обсуждению «рисков и границ ответственности в эпоху искусственного интеллекта в медицине». Главный вопрос, вокруг которого развернулась дискуссия: кто несет ответственность за принятое с помощью ИИ решение и может ли технология заменить врача.
Представитель Всемирной организации здравоохранения (ВОЗ) в России Батыр Бердыклычев привел данные недавнего исследования: все 53 страны европейского региона признают потенциал ИИ, но уровень готовности к внедрению технологий крайне неравномерен. Только в 8% стран существуют стандарты ответственности за ошибки, допущенные новыми инструментами в сфере здравоохранения. Организация, отметил господин Бердыклычев, призывает страны инвестировать в обучение медицинского персонала и создавать механизмы возмещения ущерба пациентам от действий ИИ.
Эксперт Всероссийского союза пациентов Марина Валюх заявила, что пациентское сообщество видит в ИИ инструмент повышения качества медицинской помощи, особенно в части помощи врачам. При этом госпожа Валюх выступила категорически против передачи нейросетям права окончательного решения по медицинским вопросам и предложила включить в добровольное согласие (которое подписывают граждане при медицинском вмешательстве) отдельный пункт об использовании нейросетей при диагностике и лечении.
Гендиректор НМИЦ им. В. А. Алмазова Минздрава Евгений Шляхто задал концептуальный вопрос: искусственный интеллект — это технология, справочник или равноправный партнер врача? От ответа зависит, доверять ли технологии и как выстраивать дальнейшее регулирование. Он привел показательный пример из практики: пациент из Ленинградской области с разрывом аорты выжил только потому, что ИИ по рентгеновскому снимку зафиксировал патологию, которую пропустил врач. Господин Шляхто также сообщил, что его центр подготовил и зарегистрировал пять медицинских изделий, работающих на основе ИИ, но с их массовым внедрением пока возникают сложности.
Даже при экономии до 30% времени в пилотных проектах врачи не спешат переходить на новые системы. Те же медики, которые, напротив, уже привыкли полагаться на алгоритмы, рискуют «потерять клиническое мышление».
«Выживут те, кто будет думать, рассуждать и критически относиться»,— резюмировал Евгений Шляхто.
Академик Юрий Зинченко (МГУ) напомнил, что по-прежнему не существует единого федерального регулирования ИИ не только в здравоохранении, но и в других областях, в том числе в образовании. Необходимый для этого законопроект уже подготовлен Минцифры и планируется к рассмотрению Госдумой в текущую сессию (см. “Ъ” от 22 июня). Господин Зинченко указал также на проблему качества первичных данных: если врач на 12-минутном приеме вносит в историю болезни неточности, то и нейросеть, обученная на этом массиве, будет воспроизводить ошибки. В связи с этим он призвал создать «суверенный и доверенный» искусственный интеллект с российскими источниками данных, иначе использование зарубежных библиотек может дать «противоположный ожидаемому» эффект, отметил господин Зинченко.
«Нет у ИИ ни автономии воли, ни автономии мысли, которые присущи человеку. Он лишь имитирует когнитивные функции, но не обладает внутренним убеждением»,— резюмировал участвовавший в обсуждении судья Конституционного cуда Михаил Лобов. Он обратил внимание, что ИИ отнюдь не нейтральный инструмент — он несет в себе «мировоззрение создателей» и заложенный опыт, а потому может манипулировать фактами при «определенной их раскладке». Господин Лобов призвал руководствоваться статьей 21 Конституции о защите достоинства личности при оценке любых рисков, связанных с внедрением ИИ в медицину.