С чат-ботами делятся секретами
Сотрудники сами передают конфиденциальную информацию нейросетям
Каждый пятый сотрудник в России делился конфиденциальными данными с нейросетями. По данным опроса онлайн-сервиса «Битрикс24» и «Русской школы управления», в 16% компаний такие инциденты случались однократно, и еще в 7% такое происходило несколько раз. В опросе принимали участие 1,5 тыс. человек, занятые в предприятиях малого и среднего бизнеса.
Фото: Олег Харсеев, Коммерсантъ
Фото: Олег Харсеев, Коммерсантъ
Формально такую практику можно назвать утечкой информации, но не факт, что к ней кто-то получит доступ, считает гендиректор IT-компании «А-Я эксперт» Роман Душкин: «Надо понимать, что когда вы что-то пишете в поле ввода в интернете и нажимаете кнопку "Отправить", информация попадает на какой-то сервер. Сервер, скорее всего, контролируется не вашей организацией, поскольку большие языковые модели, чат-боты, с которыми общаются пользователи, — это внешний интернет. OpenAI, Anthropic, даже GigaChat от "Сбера". Соответственно, любая информация, которую вы передали, уходит и записывается, складируется где-то на чужих серверах. Другое дело, что вряд ли там кто-то специально ищет конкретно вас. Можно, конечно, предположить, что лично вы и ваша конфиденциальная информация никому не нужны, но то, что она утекает, — 100%.
Если один пользователь какую-то свою информацию слил, она сохранилась на чужом сервере, то другой пользователь к этой информации не имеет доступа, если только он не получил зловредными методами доступ к серверам этой компании. То, что вы пишете, не попадает в обучающие выборки нейросетей. Вы должны понимать, что миллиарды пользователей ежедневно пишут в эти чат-боты всякую ерунду. Если ее всю хранить, никаких мощностей не хватит, никаких хранилищ данных».
В более чем в четверти компаний заявили, что просто не знают, сталкивались ли они с подобными случаями. При этом утечки данных считают основной угрозой для безопасности почти 70% организаций. Компаниям необходимо вводить правила использования чат-ботов, чтобы обезопасить себя и сотрудников, считает член комиссии по стандартизации искусственного интеллекта Французской ассоциации по стандартизации Александр Тюльканов: «Вообще, доступные системы, работающие в режиме чат-ботов, как правило, разработчиками используются в таком режиме, что вся информация, которую вы вносите в качестве инструкции, потом может быть использована для обучения следующего поколения моделей. Вся эта информация, если она содержит какую-то конфиденциальную составляющую, поступит потом в новую ИИ-модель, кто-то потом может эту информацию запросить, она будет раскрыта неуполномоченным получателям.
В компаниях должны быть регламенты использования нейросетей, иначе люди просто будут делать так, как им удобно, а не так, как соответствует законодательству и интересам компании. Поэтому, естественно, любая мало-мальски ответственная организация и в госсекторе, и в частном секторе в обязательном порядке должна иметь регламенты применения подобных инструментов со стороны сотрудников, подрядчиков и так далее. Должны предприниматься какие-то конкретные меры по повышению грамотности: курсы, тренинги, прочая информация».
15% участников опроса признались, что регулярно пересылают в чат-боты пароли и важные файлы. Также почти половина сотрудников использует на работе не специальные каналы связи, а общедоступные мессенджеры.