LANDEV AI обеспечила CDP CleverData Join доступом к языковым моделям для разработки ИИ-агентов
Решение для промышленного внедрения и управления ИИ-агентами LANDEV AI (входит в продуктовый портфель ЛАНИТ) интегрировано в платформу CDP CleverData Join, разработанную компанией CleverData (входит в ИТ-холдинг LANSOFT). Операции с ИИ-агентами были переведены на инфраструктуру LANDEV AI, что обеспечило стабильный, безопасный и экономически управляемый доступ к широкому спектру LLM-моделей через программный интерфейс (API).
До интеграции специалисты CleverData были вынуждены самостоятельно выстраивать подключения к каждому провайдеру нейросетей. Внедрение LANDEV AI позволило заменить множественные итерации единым API, через который CleverData обращается к любой из поддерживаемых моделей с гарантированным качеством сервиса.
Платформа LANDEV AI предоставляет пользовательский сценарий для удобного получения ключей доступа, что упрощает процессы и экономит время разработчиков. Решение дает возможность централизованно контролировать учетные данные и взаимодействие с ИИ-ресурсами. Управление правами распределено в соответствии со структурой проекта: разные агенты подключаются к разным нейросетям в зависимости от задач и уровня сложности. Система позволяет строить отчеты об использовании разных LLM и анализировать их эффективность.
Команда CleverData теперь может оперативно переключаться между языковыми моделями, исходя из запросов: более легкие сервисы используют для отладки и тестирования, а мощные — для продакшн-сценариев. Среди протестированных решений особый интерес вызывают MiniMax 2.7, MiniMax M3, развернутые в собственном контуре. Результаты использования этих LLM оказались сопоставимы с ведущими коммерческими аналогами, что подтвердило эффективность подхода к подбору нейросетей под конкретные задачи.
Владислав Балаев, руководитель команды ИИ-платформы LANDEV AI Центра компетенций больших данных и искусственного интеллекта ЛАНИТ: «На примере партнерства с компанией CleverData мы демонстрируем, как LANDEV AI становится неким слоем безопасного доступа к ИИ-агентам. В нашем решении реализован механизм гардрейлов, который проверяет запросы к моделям и не дает случайно отправить персональные данные, номера карт или другую чувствительную информацию. Также решение позволяет видеть расход токенов каждым сотрудником и контролировать бюджеты и работу LLM».
Сергей Фокин, менеджер продукта CDP CleverData Join: «До того как мы начали использовать LANDEV AI, нам приходилось обращаться к разным моделям — открытым и локальным. Но это стало неудобным, так как предполагало частое переключение. Общая точка доступа в виде платформы стала для нас оптимальным решением. Теперь мы регулируем обращение к LLM, расход токенов, бюджетных средств. Конечно же, управление через такое единое окно дает возможность организовать безопасное использование данных».
Реклама