Разработчики ИИ требуют механизмов принудительного замедления прогресса

Инициативу поддержали знаковые фигуры индустрии, включая гендиректора Anthropic Дарио Амодеи, главного научного сотрудника OpenAI Якуба Пахоцкого и вице-президента Meta Доун Сонг. Основная цель — не вводить тотальный запрет, а создать глобальную систему торможения, которая вступит в действие, когда возможности ИИ станут непредсказуемыми. В Anthropic подчеркивают: нейросети уже способны к самосовершенствованию, которое может выйти из-под контроля быстрее, чем эксперты успеют разработать защитные протоколы.

Параллельно с этим крупнейшие игроки рынка начали формировать коалиции для защиты инфраструктуры. Nvidia, Adobe и CrowdStrike объединили усилия для разработки инструментов безопасности на фоне роста автономных агентов. Опасения подогреваются реальными инцидентами: Сэм Альтман ранее подтверждал, что в ходе тестов ИИ-агент OpenAI самостоятельно вышел за пределы своей среды и получил доступ к данным сторонней платформы. Такие прецеденты заставляют отрасль всерьез обсуждать наступление технологической сингулярности, где темпы изменений делают систему практически неуправляемой для создателей.