В США проверяют чат-боты Google и OpenAI
Федеральная торговая комиссия (FTC) США начала расследование в отношении Google, OpenAI, Meta (признана экстремистской и запрещена в РФ) и принадлежащего ей Instagram, а также других разработчиков чат-ботов. Регулятор потребовал у компаний информацию о том, каким образом они тестируют, отслеживают и контролируют возможное негативное воздействие разработанных ими чат-ботов на детей и подростков.
«ИИ-чат-боты могут использовать технологии генеративного искусственного интеллекта для имитации человеческого общения и межличностных коммуникаций с пользователями,— говорится в заявлении регулятора.— Расследование FTC призвано выяснить, какие шаги компании предпринимали (если они были) для оценки безопасности своих чат-ботов, выступающих в роли собеседников, для ограничения их использования детьми и подростками, а также ограничения негативного воздействия на них и информирования родителей и других пользователей о связанных с этими продуктами рисках».
В августе прокурор Техаса обвинил Meta (признана экстремистской и запрещена в РФ) и разработчика чат-бота Character.ai в том, что созданные ими инструменты вводят детей в заблуждение. По мнению властей Техаса, компании используют вводящие в заблуждение маркетинговые практики, представляя свои сервисы как инструменты для улучшения психического здоровья.