Риск рекурсивного самосовершенствования ИИ становится критической точкой дискуссии внутри компании. Исследователи Anthropic Institute намерены инициировать серию консультаций с представителями науки и власти, чтобы выработать протоколы безопасности. Главная цель — создание механизмов, позволяющих при необходимости замедлить или вовсе приостановить развитие автономных систем.
В компании подчеркивают, что одиночные инициативы бесполезны, если другие игроки продолжат скрытую гонку. Для честной конкуренции Anthropic предлагает внедрить систему независимых проверок, исключающих возможность тайных разработок. Актуальность проблемы подтверждается внутренней практикой: к маю 2026 года нейросеть Claude генерирует уже 80% кода для самой Anthropic, демонстрируя скорость, с которой ИИ становится полноценным участником процесса собственного проектирования.
Комментарии (0)
Пока нет комментариев. Будьте первым!