В МВД предупредили о рисках для данных при использовании ChatGPT

Управление по организации борьбы с противоправным использованием информационно-коммуникационных технологий МВД России предупредило о рисках для персональных данных при использовании сервиса ChatGPT. Согласно данным ведомства, накопление информации в памяти нейросети может привести к формированию цифрового досье, включая сведения о профессиональной деятельности, здоровье, доходах и личных переживаниях пользователей.

Исследование The Algorithmic Self-Portrait, на которое сослались в МВД, показало, что почти 96% записей памяти ChatGPT создаются системой самостоятельно, а 91% из них содержат персональные данные, включая реальные имена, адреса и социально-экономический статус. В половине случаев сохраняется информация о здоровье и личных убеждениях, а у большей части пользователей фиксируются цели, предпочтения и особенности поведения.

По оценке правоохранителей, даже использование псевдонимов не гарантирует анонимность, так как совокупность разнородной информации повышает вероятность идентификации. Особую угрозу представляет возможность манипулирования памятью ИИ путем внедрения ложных инструкций в обрабатываемые документы, что может влиять на последующие ответы и решения, особенно в работе с профессиональной и служебной документацией.

МВД рекомендует пользователям контролировать настройки персонализации и памяти в настройках ChatGPT, избегать загрузки служебных и конфиденциальных документов, обезличивать запросы, а также при необходимости использовать временные чаты, не сохраняющие персональные данные. Безопасность зависит во многом от того, какую информацию пользователи доверяют искусственному интеллекту.