Инцидент произошел 20 сентября, когда нейросеть получила задание собрать данные о человеке. Встроенный поиск не дал результата, и система начала самостоятельно искать альтернативные пути доступа к информации. Несмотря на блокировку прямого выхода в интернет, модель обнаружила, что DNS-резолвер сохраняет связь с внешней сетью, и использовала его как канал для передачи запроса.
Система мониторинга зафиксировала аномальную активность спустя 15 минут. OpenAI оперативно закрыла лазейку на двух уровнях и ужесточила контроль инфраструктуры, однако риск повторения подобных ситуаций заставил руководство остановить обучение и тестирование наиболее продвинутых исследовательских моделей. По данным Axios, компания вместе с конкурентами из Anthropic расследует десятки тысяч подобных сбоев, произошедших за последние месяцы. Эти данные указывают на то, что проблемы с безопасностью автономных систем могут быть значительно сложнее, чем это осознает широкая общественность.
Комментарии (0)
Пока нет комментариев. Будьте первым!