ИИ-сервис Google давал пользователям опасные для здоровья советы
Компания Google сообщила, что удалила ряд рекомендаций, сделанных ИИ-приложением AI Overviews в ответ на запросы пользователей, касавшиеся медицинских анализов и здоровья. Решение было принято по итогам проведенного журналистами The Guardian расследования, которое показало, что рекомендации ИИ содержали ложные утверждения, а в некоторых случаях были опасны для здоровья и жизни.
Сервис AI Overviews помогает проанализировать множество веб-источников и составить краткую справку, которая выходит в результатах поиска по запросу пользователя. Разработчики Google называют сервис «полезным и надежным».
Запросы, касающиеся показателей в медицинских анализах, лечебной диеты, приема лекарств и т. п., одни из наиболее частых. Как показало расследование The Guardian, в одном из случаев AI Overviews рекомендовал людям с раком поджелудочной железы избегать продуктов, богатых жирами, в то время как, по словам специалистов, именно такая пища рекомендована пациентам с этим заболеванием.
В другом случае сервис выдал абсолютно ложную информацию о функциональной пробе печени. Поверившие такой информации больные с заболеваниями печени могли сделать вывод, что они здоровы.
Следуя еще одной рекомендации AI Overviews, пользователи могли пропустить важные симптомы развития онкологических заболеваний и т. п.
После удаления ложных и опасных рекомендаций в Google отметили, что AI Overviews в целом использует «очень качественные источники». Компания подчеркнула, что не комментирует «отдельные удаления в результатах поиска». «В случаях, когда AI Overviews упускает какой-то контекст, мы работаем над улучшениями, а также принимаем соответствующие меры в рамках нашей политики»,— заявили в Google.