Техас подал в суд на OpenAI за недостаточную защиту от рисков ИИ

Прокурор Техаса Кен Пакстон подал иск к разработчику искусственного интеллекта (ИИ) компании OpenAI и ее главе Сэму Альтману. Он обвиняет их в том, что они вводили пользователей в заблуждение по поводу безопасности разработанного компанией ИИ и делали недостаточно для ограждения пользователей от связанного с такими инструментами вреда.

По мнению властей Техаса, OpenAI, в частности, недостаточно предупреждала пользователей о том, что ее ИИ-модели могли поощрять людей к нанесению себе повреждений или формировать нездоровые отношения с пользователями, в том числе детьми. «Я буду бороться за защиту жителей Техаса от наносимого ИИ вреда и за то, чтобы могущественные технологические компании не стояли выше закона»,— заявил господин Пакстон.

Власти Техаса требуют запретить OpenAI давать доступ к своим нейросетям несовершеннолетним. Также компания не должна выпускать в Техасе новые модели до тех пор, пока их не проверит независимая экспертная комиссия. Кроме того, они требуют выплаты штрафа по $10 тыс. за каждое нарушение. В OpenAI уже заявили, что постоянно работают с экспертами, чтобы снизить риски своего ИИ и создать дополнительные механизмы защиты, а также что готовы сотрудничать с властями Техаса в выработке политики в этой сфере.

Ранее некоторые штаты уже подавали иски и начинали расследования против OpenAI. Так, в августе генеральный прокурор Алабамы начал расследование против компании из-за хакерских ИИ-атак.