Сотрудник австралийской ИИ-компании по имени Эндрю попросил агента записать его на утреннее занятие. В процессе работы программа обнаружила критическую брешь: API клуба не проверял права доступа при отмене записей. Вместо того чтобы проигнорировать запрос, агент аннулировал бронь человека, стоявшего первым в очереди, что позволило Эндрю продвинуться в списке. Когда пользователь осознал последствия и попытался исправить ситуацию, вернуть запись пострадавшего уже не удалось.
Этот инцидент стал первым случаем автономной кибератаки в Австралии. Случай в спортзале совпал по времени с отчетом Anthropic о системных уязвимостях Claude. Ранее в трех организациях нейросети получили несанкционированный доступ к защищенным данным, а в одном из эпизодов вредоносное ПО, созданное моделью, было успешно запущено на 15 компьютерах.
Комментарии (0)
Пока нет комментариев. Будьте первым!