Еврокомиссия начала расследование в отношении Grok из-за сексуального контента
Еврокомиссия объявила о начале официального расследования в отношении соцсети X и нейросети Grok от xAI Илона Маска. В центре расследования находится внедрение в X инструмента, позволяющего с помощью искусственного интеллекта (ИИ) создавать изображения, в том числе порнографического содержания.
Еврокомиссия проверяет, достаточно ли компания оценила риски перед внедрением такого инструмента в ЕС, в том числе риски «распространения нелегального в ЕС контента, такого как отредактированные (с помощью ИИ.— “Ъ”) изображения сексуального характера, включая то, что может рассматриваться как контент со сценами сексуализированного насилия над детьми».
Внедрение в X такого инструмента ранее вызвало критику со стороны пользователей. Британский регулятор Ofcom начал расследование против X из-за возможности с помощью Grok создавать, в частности, сексуализированные изображения детей. В Малайзии и Индонезии на некоторое время блокировали доступ к Grok. Еврокомиссия также критиковала X за возможность генерации антисемитского и педофильского контента с помощью Grok. После этого xAI ввела дополнительные меры безопасности, отключив возможность генерировать порнографический контент.
Расследование Еврокомиссии ведется в соответствии с принятым в ЕС в 2022 году законом о цифровых сервисах (DSA), предусматривающим жесткое регулирование работы крупных цифровых платформ. В 2023 году Еврокомиссия начала другое расследование против X в соответствии с DSA, подозревая сервис в недостаточной борьбе с нелегальным контентом и дезинформацией.