«Сейчас чат-боты уверенно называют "биксониманию" ложью»
Анна Кулецкая — о том, как ИИ поверил в фейковую болезнь
Фото: Александр Миридонов, Коммерсантъ
Фото: Александр Миридонов, Коммерсантъ
В 2024 году исследователи из Швеции выдумали заболевание и обвели модели искусственного интеллекта вокруг пальца. Фейковое расстройство, среди симптомов которого были покраснение глаз, зуд и другие неприятные ощущения, назвали «биксониманией». Появлялось оно якобы после долгой работы за компьютером или другими гаджетами. Ученые опубликовали два липовых исследования и стали ждать, поверит ли нейросеть в существование проблемы. Причем они сделали все, чтобы живые читатели поняли, что это фейк.
Ведущим автором был назван некий Лазлив Изгубленович, а благодарность выражена профессору Марии Бом из Академии Звездного Флота — за ее доброту и щедрость. В тексте встречались отсылки к «Симпсонам» и «Властелину колец». Однако уже через несколько недель крупные языковые модели, включая ChatGPT и Gemini, начали уверенно рассказывать о «биксонимании» как о реальном заболевании, объяснять его причины и даже давать советы пользователям, пишет Nature.
Самое тревожное, что фейк даже процитировали в рецензируемом журнале, откуда статью пришлось отзывать. Доверчивость ИИ объяснили тем, что статья оформлена по всем канонам научного исследования, а в таком случае риски галлюцинаций увеличиваются. Сейчас чат-боты уверенно называют «биксониманию» ложью, а некоторые даже утверждают, что изначально в нее не верили. Ошибку они признали, но научное сообщество тревожит то, как искусственный интеллект все глубже проникает в медицину: ставит диагнозы, расшифровывает анализы и дает рекомендации, даже когда полная картина о пациенте еще не собрана.