Бизнес внедряет системы контроля для ИИ-агентов

Компании переходят от простых чат-ботов к автономным агентам, которые анализируют данные и запускают внешние сервисы. Такая самостоятельность создает новые точки уязвимости. Для минимизации рисков разработчики внедряют системы harness, ограничивающие доступ ИИ к инструментам и требующие обязательного подтверждения человеком при совершении критических операций. По данным холдинга Т1, около 80% запросов от бизнеса касаются предотвращения утечек информации.

Крупнейшие игроки рынка — «Яндекс», «Сбер» и МТС — уже интегрируют подобные механизмы в свои продукты. В МТС Web Services работают над платформой для управления вычислительными ресурсами и переключения между моделями, а «Сбер» применяет инфраструктуру контроля в своих решениях GigaCode и GigaCowork. Специалисты ГК «Солар» подчеркивают: языковые модели часто не способны отличить команду от данных, поэтому защитный слой обязан фильтровать все действия ИИ в реальном времени. К 2029 году эксперты ожидают роста рынка таких решений до 5 млрд рублей, где основная доля выручки придется на интеграцию и сопровождение систем.