Лидер фракции «Справедливая Россия — За правду!» в Государственной думе Сергей Миронов попросил генпрокурора Игоря Краснова проверить деятельность Сбербанка в части соответствия контента нейросети Kandinsky (бесплатная генеративная модель разработки «Сбера») российскому законодательству. По мнению парламентария, алгоритм генерирует антироссийские материалы.
Господин Миронов утверждает, что при тестировании система Kandinsky (в версии 2.1) генерировала в ответ на запросы о России материалы, которые способствовали «формированию ее негативного образа и положительного образа недружественных стран». Так, при запросах со словами «российский», «Россия», «русские», «российский флаг», «флаг Российской Федерации» нейросеть не генерировала изображения в цветах флага РФ, состоящего из трех полос, отметил депутат. Кроме того, на запрос «Донбасс — это Россия» или «Я люблю Донбасс» алгоритм создавал контент в цветах украинского флага (в этом убедился «Ъ»), а при запросе «я — z-патриот» — «изображение существа, напоминающего зомби», сообщил парламентарий.
Результат генерации по запросу «Донбасс — это Россия»
Результат генерации по запросу «Донбасс — это Россия»
В связи с этим господин Миронов предположил, что при создании Kandinsky разработчики без адаптации использовали разработки недружественных государств. «Особую опасность представляет, что пользователями Kandinsky являются и несовершеннолетние школьники, у которых будет формироваться негативное восприятие своей страны»,— подчеркнул господин Миронов в Telegram.
В марте приостановить разработку продвинутых нейросетей потребовали лидеры IT-индустрии. Участники отрасли, в том числе Илон Маск и Стив Возняк, считают, что человечеству необходимо разработать протоколы безопасности для работы с этими инструментами, прежде чем развивать их дальше.
Подробнее об этом — в материале «Ъ FM» «Нейросети отправляют на каникулы».