«Яндекс» заявил о разработке суверенной языковой модели Alice AI Foundation LLM
«Яндекс» объявил о создании большой языковой модели Alice AI Foundation LLM, которую позиционирует как суверенную. Компания подчеркнула, что обучила нейросеть с нуля без сторонних зарубежных компонентов, пишут «Ведомости».
Компания утверждает, что новая модель сильна в математике, программировании и других задачах на рассуждение. Alice AI Foundation обучена на 18 трлн токенов и содержит 80 млрд параметров, из которых активны 3 млрд. Разработка должна лечь в основу будущей рассуждающей модели и агентных возможностей «Алисы AI». «Яндекс» выложил модель в открытый доступ с возможностью для разработчиков использовать ее или дообучить под свои задачи. Затраты на технологию в компании не раскрыли.
Понятия национальной и суверенной ИИ-моделей ввел закон об искусственном интеллекте, который президент России Владимир Путин подписал 26 июля. Суверенная ИИ-модель должна быть разработана на всех этапах только российским юрлицом и работать только на инфраструктуре в России. Под такое определение до сих пор подпадала только GigaChat от «Сбера». Национальная модель также должна создаваться российским юрлицом, но в ней могут использоваться зарубежные компоненты и решения с открытым исходным кодом — например, Alice AI.
Граница между суверенной и национальной моделью проходит не только по месту разработки. Суверенная модель должна быть создана российским юридическим лицом, работать на инфраструктуре России, обучаться исключительно на датасетах, сформированных в стране, и не использовать компоненты, разработанные за рубежом; национальная модель допускает иностранные open-source-решения и не только российские датасеты.
Для национального статуса российскому разработчику также должны принадлежать исключительные права на обучаемые параметры, архитектуру, исходный код обучения и эксплуатации, а также конфигурацию контекстного окна. Такое владение дает возможность полностью воссоздать, дообучить, исправить или запустить модель самостоятельно, поэтому открытый доступ к модели сам по себе не определяет ее категорию.