Белый дом договорился с IT-гигантами о проверках ИИ-моделей
Правительство США не будет проверять разрабатываемые компаниями модели искусственного интеллекта (ИИ) с открытым исходным кодом, а проверка «закрытых» моделей будет проводиться пока на добровольной основе. Как сообщает The Wall Street Journal (WSJ), такие решения приняты по итогам встречи в Белом доме с руководителями крупнейших американских IT-компаний, работающих в сфере ИИ.
Во встрече приняли участие, в числе прочих, представители Meta (признана экстремистской и запрещена в РФ), Anthropic, Google и OpenAI. Стороны договорились, что разработчики передовых «закрытых» систем будут предоставлять государству доступ к ним за 30 дней до их официального релиза. Ожидается, что за это время эксперты смогут оценить, способны ли ИИ-агенты выходить из-под контроля и совершать несогласованные действия. Тот факт, что «открытые» модели из проверок исключены, по мнению WSJ, свидетельствует о стремлении администрации Трампа сохранить глобальное доминирование США в сфере ИИ.
Поводом для обсуждения в Белом доме стали несколько недавних случаев, когда ИИ-модели в процессе тестирования выходили из-под контроля и взламывали системы других компаний. Так, в конце июля ИИ-агент Open-AI взломал платформы Modal и Hugging Face. А вскоре после этого Anthropic сообщила, что ее модель Claude вышла за пределы пространства, предназначенного для тестирования, и получила доступ к данным трех сторонних компаний.