Техас обвинил запрещенную Meta в злоупотреблении доверием детей
Генеральный прокурор Техаса Кен Пэкстон начал расследование в отношении корпорации Meta (признана экстремистской и запрещена в РФ) и разработчика чат-бота Character.ai. Их обвиняют в том, что созданные ими инструменты вводят детей в заблуждение. По мнению прокурора Пэкстона, компании используют вводящие в заблуждение маркетинговые практики, представляя свои сервисы как инструменты для улучшения психического здоровья.
Речь идет о том, что в разработанных компаниями чат-ботах можно вести разговоры на темы психического здоровья, в том числе детям и подросткам. В случае с Character.ai, в чат-боте которой есть возможность выбирать разных ИИ-персонажей для разговора, среди них есть и «психолог». По мнению господина Пэкстона, уязвимые группы, в том числе дети, могут счесть, что в этих чат-ботах они смогут получать профессиональную психологическую помощь, хотя на самом деле эти сервисы не являются такими инструментами. В компаниях заявили, что они предупреждают об этом пользователей. Однако, как отмечает TechCrunch, дети могут не понять или проигнорировать такие предупреждения.
На прошлой неделе два сенатора-республиканца призвали начать расследование в отношении Meta (признана экстремистской и запрещена в РФ). Это связано с собственным расследованием Reuters, из которого следует, что компания разрешала разработанным ею чат-ботам «вовлекать детей в разговоры на романтические или чувственные темы».