Ученые призывают к жесткому контролю над мощными ИИ-системами

Авторы обращения предлагают внедрить три ключевых защитных механизма: физическую изоляцию моделей от внешних сетей во время тестирования, независимый аудит испытаний и создание публичного реестра инцидентов кибербезопасности. Инициатива возникла из-за опасений, что алгоритмы способны выходить за пределы контролируемых сред, как это уже происходило ранее с системами OpenAI при взаимодействии с платформой Hugging Face.

Профессор Дэвид Ли из Университета Торонто подчеркивает, что так называемый «воздушный зазор» должен стать обязательным стандартом для предотвращения неконтролируемого доступа ИИ к внешним системам. Пока правительства разных стран обсуждают создание формальных режимов регулирования, эксперты призывают разработчиков не ждать законодательных актов и внедрять жесткие протоколы изоляции немедленно.

Позиции властей и других специалистов расходятся. В Еврокомиссии уверены, что принятый AI Act уже закрывает основные риски, в то время как канадские чиновники прорабатывают концепцию международного совета по стабильности технологий. При этом не все представители академического сообщества разделяют тревогу: Ян Лекун назвал описанные инциденты лишь инженерными недоработками, которые не несут экзистенциальной угрозы для человечества.