Глава отдела безопасности OpenAI покинул компанию

В декабре 2023 года OpenAI распределяла функции безопасности между отдельными командами: Safety Systems отвечала за предотвращение неправильного использования существующих моделей и продуктов, а Superalignment — за разработку стандартов безопасности для будущих сверхразумных моделей. Такая конструкция разделяет контроль уже работающих систем и научную работу над безопасностью более мощных моделей, но оставляет ключевым вопросом, успевают ли методы проверки за их развитием.

В сентябре 2026 года представитель OpenAI связывал инциденты с нехваткой мер для выявления несоответствий и с тем, что модели развивались быстрее ожидаемого. Это создает практическое ограничение для внутренней системы безопасности: новые возможности могут появляться раньше, чем процедуры для оценки их рисков. Глава OpenAI Сэм Альтман заявлял о готовности компании допустить независимых оценщиков, то есть дополнить внутренние команды внешней проверкой.