Спрос на ИТ-инфраструктуру с графическими процессорами вырос в России в 6 раз
Спрос на облачную инфраструктуру на основе графических процессоров вырос в России на 507% за полгода. Число новых подключений увеличилось на 160%. Ежемесячная активность пользователей — на 240%. Это следует из данных провайдера «Рег.Облако».
GPU-инфраструктура применяется для клиентской поддержки, работы с корпоративными базами знаний, обработки документов, речевой аналитики, антифрода и компьютерного зрения. Самой востребованной видеокартой стала NVIDIA A4000, ее используют 63% компаний. «Облако позволяет масштабировать вычислительные мощности по мере роста нагрузки без крупных капитальных вложений в оборудование, которое быстро устаревает»,— отметил директор по стратегии и развитию ИИ Cloud.ru Дмитрий Юдин.
Хотя на рынке достаточное количество карт «начального уровня», в сегменте высокопроизводительных ускорителей для обучения крупных ИИ-моделей сохраняется дефицит, сообщил источник «Ъ» в отрасли. «Дефицит будет подталкивать рынок к небольшим специализированным моделям вместо гигантских универсальных»,— добавил собеседник «Ъ».
Подробнее — в материале «Ъ» «На сложных облаках».
В 2023–2024 годах спрос на инфраструктуру для искусственного интеллекта (ИИ) был одним из основных драйверов роста облачного рынка в России, влияя на рост продаж услуг и стимулируя развитие PaaS-сервисов, необходимых для обучения и внедрения моделей машинного обучения (ML) и больших языковых моделей (LLM). Активное распространение ИИ и ML также привело к увеличению спроса на облачные платформы, предоставляющие необходимые ресурсы для разработки и развертывания таких технологий. Компании, как правило, арендуют серверы с графическими ускорителями (GPU), которые используются для построения нейросетей и создания моделей генеративного ИИ.
Значительные вычислительные мощности требуются для создания LLM, поскольку чем больше параметров у модели, тем выше её способности и количество операций, необходимых для тренировки. Даже обращение к уже обученным нейросетям требует ресурсов. Отмечается, что для минимальных ИИ-проектов необходимы видеокарты на сумму от 30 млн рублей, что часто не по карману малым компаниям. Поэтому облачные сервисы, позволяющие платить по мере использования и быстро масштабировать мощности, становятся предпочтительным решением. Высокий спрос на GPU в первую очередь связан с локальным развертыванием моделей и построением собственной ИИ-инфраструктуры в enterprise-сегменте.
При этом строительство и масштабирование дата-центров, необходимых для размещения ИИ-инфраструктуры, также ускоряется. Дефицит мощностей центров обработки данных превышает предложение, и новые объекты часто арендуются на 80% ещё до ввода в эксплуатацию. Требования к ЦОДам меняются: вместо стандартных 5–15 кВт на стойку, облачные и высоконагруженные дата-центры, а также ИИ-стойки могут потреблять 30–100 кВт из-за работы мощных GPU и обработки данных ИИ. Это требует новых подходов к проектированию и строительству.