В России создали первый файрвол для защиты нейросетей от взлома

Четверть крупнейших финансовых компаний России уже столкнулась с киберугрозами при использовании искусственного интеллекта, а три четверти организаций сектора называют утечки данных главным риском. На фоне этих вызовов ГК Swordfish Security представила AppSec.AIGate — специализированный шлюз для защиты языковых моделей от манипуляций и кражи данных.

Инструмент работает по принципу прокси-шлюза, создавая защитный барьер между пользователем и нейросетью. В отличие от стандартных фильтров, система анализирует не просто текст, а семантику и контекст каждого обращения. Это позволяет в реальном времени выявлять попытки обхода ограничений или передачи конфиденциальной информации. Если запрос нарушает корпоративные политики безопасности, ИБ-инженер мгновенно получает уведомление на дашборд, а само действие блокируется.

Одной из ключевых функций стала автоматическая маскировка чувствительных сведений. Это критично для сотрудников и разработчиков, которые могут случайно передать в облачную модель корпоративные секреты или персональные данные клиентов. Директор по развитию безопасных технологий ИИ Swordfish Security Юрий Шабалин пояснил, что сервис позволяет внедрять гибкие правила под задачи конкретного бизнеса, фильтруя потоки по намерениям пользователя и запрещенным категориям контента.

Необходимость в подобном софте подтверждается данными Ассоциации ФинТех. К концу 2025 года число инцидентов, связанных с ИИ, начало расти пропорционально внедрению технологии в банковские процессы. Разработчики позиционируют AppSec.AIGate как ответ на дефицит специализированных инструментов, так как традиционные средства защиты периметра часто оказываются бессильны перед специфическими атаками на LLM-модели.