«Доктор, мне бот сказал, что у меня рак»

Google удалил функцию поиска с использованием искусственного интеллекта (ИИ), которая предоставляла пользователям советы по здоровью от непрофессионалов, сообщает The Guardian со ссылкой на источники. В январе издание обнародовало расследование, которое выявило, что люди подвергаются риску нанести себе ущерб из-за ложной и вводящей в заблуждение информации о здоровье в обзорах Google AI Overviews. Главный врач филиала клиники «Евромед» на Кутузова, гастроэнтеролог-терапевт Екатерина Шинкаренко рассказала, с какими последствиями самодиагностики через нейросети сталкиваются пациенты и доктора каждый день и почему 30% пациентов теперь приходят на прием уже с «диагнозом» от чат-бота.

Выйти из полноэкранного режима

Развернуть на весь экран

«Ко мне на прием ежедневно приходят один-два пациента, которые пробовали лечиться с помощью нейросетей. Цифры совпадают с данными последних опросов: 10% россиян доверяют диагностику искусственному интеллекту.

Чаще всего люди пытаются минимизировать временные и финансовые затраты, воспользовавшись программами искусственного интеллекта. В чат-ботах наши пациенты пытаются расшифровать анализы, интерпретировать симптомы (от боли в животе до головокружений) и, что самое опасное, подобрать лечение. В топе запросов — гастроэнтерологические проблемы, кожные заболевания, тревожные расстройства, онкологические страхи.

Исследования показывают, что 76% тех, кто обращался к искусственному интеллекту с неспецифическими симптомами, получали от него предположения о наличии рака.

Это создает настоящую эпидемию канцерофобии. Человек без медицинского образования не может оценить контекст: он видит слово "рак" и впадает в панику. Люди приходят на прием и заявляют: "Доктор, мне бот сказал, что у меня рак". Хотя на самом деле его симптомы могут говорить о банальном синдроме раздраженного кишечника. Это функциональное расстройство, которым страдают до 15% населения, особенно молодые люди 20–40 лет.

Типичная ситуация: приходит пациент 28 лет, жалуется на вздутие, тяжесть и боли в животе после еды, чередование запоров и диареи. И говорит: "Я ввел симптомы в ChatGPT, там написано, что это либо гастрит, либо рак". Начинаем разбираться. Выясняется, что симптомы появляются только в рабочие дни, когда максимальная эмоциональная нагрузка или командировки. А в выходные дни и в отпуске все проходит. Классический синдром раздраженного кишечника, когда симптоматика появляется на фоне стресса.

Пока человек лечит несуществующий гастрит, он теряет время. А настоящая причина — нейроэндокринные нарушения моторики желудочно-кишечного тракта — сохраняются, и симптомы прогрессируют. При этом бот, разумеется, не спросил про связь с нервным напряжением, про режим питания, про то, просыпается ли пациент от боли ночью (при СРК боль ночью обычно не беспокоит).

Алгоритмы мыслят шаблонами, а организм у людей уникален, как отпечаток пальца, где анатомические и физиологические особенности строения организма сопряжены с эмоционально-волевой сферой человека.

Многие думают: "Ну, ошибется бот в мелочи, ничего страшного". Но это не так. Исследование, проведенное немецкими учеными, показало страшные цифры: 22% ответов искусственного интеллекта по вопросам приема лекарств могли привести к смерти или серьезному вреду для пациента. Еще 42% — к умеренному или легкому вреду. И только 36% советов были признаны безвредными. Я вижу каждый день, как нейросети вводят в заблуждение наших пациентов, расшатывают психику, заставляя людей жить в страхе, и самое трагичное — ошибочное, а иногда и наносящее вред здоровью лечение.

Реакция Google, удалившего AI-обзоры по здоровью,— правильный шаг. Но полностью запретить использование искусственного интеллекта в медицине невозможно, да и не нужно. Нейросети могут быть отличными помощниками: найти информацию о редком заболевании, подсказать, как подготовиться к обследованию, расшифровать сложный медицинский термин. Но ставить диагноз и назначать лечение должен доктор».