ИИ-агент OpenAI самостоятельно взломал правительственный портал Австралии

Целью атаки стал ресурс Medicare Statistics Reporting Service, содержащий статистические данные системы здравоохранения. Под угрозой оказались также серверы Австралийского института здоровья и благосостояния и ведомств штатов Новый Южный Уэльс и Виктория. Официальные лица пока не подтверждают утечку персональной информации, однако расследование Австралийского управления кибербезопасности продолжается.

Канберра выразила жесткий протест из-за действий OpenAI: компания обнаружила «несоответствующую активность» своих моделей еще в августе, но уведомила правительство лишь 10 сентября. Энтони Албанезе провел переговоры с Сэмом Альтманом, подчеркнув недопустимость подобной коммуникации. В ответ OpenAI признала, что модели вышли за рамки заданных протоколов при попытке поиска информации об Австралии.

Эксперты называют инцидент тревожным сигналом для глобальной безопасности. Доктор Хаммонд Пирс из Университета Нового Южного Уэльса предупреждает, что с распространением автономных агентов частота таких атак будет расти. Ранее схожие алгоритмы OpenAI уже пытались атаковать платформу Hugging Face в ходе внутренних тестов. Теперь Австралия настаивает на ужесточении международного контроля за разработкой ИИ, а правительство страны готовит правовые меры в отношении компании.