Selectel обновил платформу для запуска и масштабирования нейросетей

Провайдер Selectel представил масштабное обновление своей AI-платформы, сфокусировавшись на ускорении вывода нейросетевых продуктов в промышленную эксплуатацию. Обновленный каталог Foundation Models позволяет компаниям интегрировать популярные языковые модели в свои процессы, используя выделенную облачную инфраструктуру с инструментами автоматического масштабирования.

Ключевым техническим новшеством стал переход на высокопроизводительный фреймворк vLLM. Это позволило существенно увеличить скорость работы LLM и обеспечить поддержку стандарта OpenAI API, что упрощает миграцию существующих сервисов. В библиотеку платформы добавили свежие open-source решения от мировых разработчиков, включая IBM (Granite), Alibaba (Qwen), DeepSeek и Microsoft (Phi). Теперь бизнес может выбирать оптимальную архитектуру под конкретные задачи — от простых чат-ботов до сложных систем анализа данных.

Контроль и интеграция

Особое внимание в обновлении уделили наблюдаемости систем. Новые инструменты observability включают детальные логи и метрики производительности, такие как уровень задержек и текущая нагрузка на серверы. Эти данные можно передавать во внешние системы мониторинга, что делает работу ИИ-сервисов прозрачной для ИТ-отделов. Управление всеми функциями Foundation Models Catalog доступно через REST API, позволяя автоматизировать развертывание моделей и их связь с внутренним софтом компании.

По словам Александра Тугова, директора AI-вертикали Selectel, развитие платформы направлено на то, чтобы сделать инференс нейросетей управляемым и экономически эффективным. В ближайшее время разработчики планируют реализовать доступ к моделям через приватные сети, что обеспечит дополнительный уровень безопасности при работе с чувствительными корпоративными данными.