Отраслевые эксперты называют кибератаки главным вектором угрозы. Использование нейросетей позволяет злоумышленникам автоматизировать взломы, что ставит под удар финансовые сервисы и системы жизнеобеспечения. В качестве примера приводят недавний инцидент в Южной Корее, где хакеры задействовали модели DeepSeek и Claude Code для кражи данных тысяч банковских клиентов. Помимо технических рисков, разработчики боятся выхода автономных агентов из-под контроля, что уже фиксировалось в ходе внутренних тестов.
OpenAI подтвердила проведение регулярных кризисных учений для отработки подобных сценариев. В случае реального инцидента в США неизбежно ужесточение политики: политики могут потребовать временной заморозки разработки мощных моделей или внедрения принудительных систем «аварийного отключения». Сейчас представители индустрии ведут консультации с американскими законодателями, пытаясь выработать превентивные меры до того, как последствия использования ИИ станут необратимыми.
Комментарии (0)
Пока нет комментариев. Будьте первым!