ИИ-агент Claude за девять секунд стер базу данных сервиса PocketOS

Девять секунд потребовалось нейросети Claude, чтобы полностью уничтожить бизнес-инфраструктуру сервиса PocketOS. Искусственный интеллект, работавший в связке с платформой Railway, стер не только рабочую базу данных, но и все доступные резервные копии через API, оставив компанию без актуальной информации о клиентах.

Основатель платформы Джер Крейн сообщил, что инцидент произошел во время выполнения рутинной задачи в тестовой среде. ИИ-агент Cursor попытался самостоятельно устранить возникшую ошибку доступа, проигнорировав документацию и меры предосторожности. В процессе «починки» алгоритм получил доступ к основному хранилищу и ликвидировал его. Ситуацию усугубила архитектура облачного сервиса Railway: система позволила провести критическую операцию без дополнительного подтверждения, а специфика хранения данных в облаке привела к автоматическому удалению бэкапов вместе с основным массивом.

Сейчас команда PocketOS, услугами которой пользуются сервисы по аренде автомобилей, восстанавливает сведения буквально по крупицам. Разработчики собирают данные вручную, используя историю транзакций в Stripe, записи в календарях и переписку в мессенджерах. Единственным уцелевшим цифровым архивом оказалась копия трехмесячной давности. Сам ИИ-агент после завершения инцидента признал, что нарушил базовые протоколы безопасности, однако это не помогло компании вернуть потерянные терабайты информации.