Исследование Стэнфорда: модели ИИ обучаются на детской порнографии
Интернет-обсерватория Стэнфордского университета (SIO) обнаружила сотни изображений, содержащих сексуальное насилие над детьми, в открытом наборе данных, которые используются для обучения генеративных нейросетей, в том числе Stable Diffusion, сообщила пресс-служба центра киберполитики Стэнфорда.
В отчете утверждается, что многие крупные нейросети, которые генерируют изображения на основе текстового запроса, используют банк данных некоммерческой организации LAION. Среди этих данных исследователи обнаружили детскую порнографию, сообщает пресс-служба.
Сообщается, что в настоящее время ведется работа по удалению исходных материалов. Исследователи передали ссылки на них в Национальный центр пропавших и эксплуатируемых детей США и Канадский центр защиты детей. Предыдущий отчет SIO, подготовленный совместно с некоммерческой группой по обеспечению безопасности детей в интернете Thorn, показал, что некоторые генеративные нейросети позволяют создавать реалистичные изображения, способствующие сексуальной эксплуатации детей.