Т1 протестировал более 20 ИИ-моделей на альтернативных ускорителях Nvidia

ИТ-холдинг Т1 протестировал более 20 моделей искусственного интеллекта на графических ускорителях разных производителей, в том числе китайских. Результаты испытаний представил гендиректор холдинга Дмитрий Харитонов на форуме Kazan Digital Week 2026.

В тестах ИИ-ассистентов для работы с документами и поиска по базам знаний стоимость инференса (выполнения запросов к обученной модели) на китайских чипах оказалась в 2–2,5 раза ниже, чем на ускорителях Nvidia, при сопоставимом качестве ответов. В задачах компьютерного зрения китайские чипы были конкурентоспособны по цене, но уступили Nvidia по скорости. Всего специалисты холдинга провели более 1 тыс. тестовых запусков на альтернативных ускорителях.

По итогам испытаний компания предложила использовать ускорители Nvidia для обучения и работы наиболее крупных языковых моделей, а часть запросов и вспомогательных сервисов переносить на другие чипы. По расчетам холдинга, замена одной не полностью загруженной карты Nvidia H100 на китайский ускоритель C550 при размещении в облаке может сэкономить более 2 млн руб. в год. При расчете полной стоимости владения, добавил господин Харитонов, следует учитывать расходы на лицензии, сопровождение и обучение сотрудников.

По словам господина Харитонова, экономический эффект от внедрения ИИ должен быть измерим в течение шести–девяти месяцев. «Эффект должен быть измеримым, иначе проект просто сворачивается», — сказал он.