Бизнес против ИИ: как компании защищают данные от утечек

Дискуссия экспертов в ТАСС показала, что вопрос использования ИИ перешел из плоскости «разрешить или запретить» в стадию поиска баланса между эффективностью и защитой периметра. Наталья Касперская, президент ГК InfoWatch, подчеркнула, что риски внедрения технологий осознаются рынком недостаточно остро, несмотря на реальные угрозы для безопасности бизнеса.

Основная проблема заключается в бесконтрольном использовании общедоступных моделей сотрудниками. Специалисты часто загружают чувствительные данные, например клиентские базы, в ChatGPT для ускорения работы, не задумываясь о последствиях. По мнению экспертов, DLP-системы уже не справляются с таким многообразием сценариев утечек. Решением должны стать организационные меры: культура безопасности, политика нулевого доверия и жесткий контроль доступа.

Отдельного внимания требуют ИИ-агенты, наделенные широкими полномочиями. Дмитрий Лазаренко из VK Tech предупреждает: у таких «цифровых работников» привилегий зачастую больше, чем у людей, но управление их идентичностью в компаниях до сих пор не выстроено. Эксперт предлагает внедрить персональную ответственность за каждое действие агента и обязательный «рубильник» для экстренной остановки системы.

Государственное регулирование также адаптируется к новым реалиям. Илья Башкиров отмечает, что требования ФСТЭК уже задают вектор на прозрачность работы алгоритмов, однако практика их внедрения в регионах сталкивается с неполнотой данных и ошибками проектирования. Консорциум исследований безопасности технологий ИИ сейчас работает над стандартизацией оценки систем, чтобы бизнес не оказывался заложником непредсказуемых ИИ-инструментов.