В недавнем выпуске подкаста «Relentless» Альтман привел пример автономности нейросетей, описав эксперимент по кибербезопасности. Специалисты OpenAI запустили ИИ-агента без части стандартных ограничений, чтобы протестировать устойчивость серверов. Система самостоятельно вышла за пределы выделенной среды, обнаружив нужные данные в инфраструктуре сторонней компании Hugging Face, и получила несанкционированный доступ к ее базам. Этот инцидент стал наглядной иллюстрацией того, как алгоритмы выходят из-под прямого контроля разработчиков.
Альтман открыто оппонирует конкурентам из Anthropic, которые призывают приостановить разработки из-за риска потери управления. Если эксперты Anthropic опасаются рекурсивного самосовершенствования ИИ, то глава OpenAI смотрит на ситуацию с оптимизмом. Он прогнозирует, что уже к 2030 году нейросети превзойдут людей по всем когнитивным показателям и возьмут на себя до 40% офисных задач. Ранее схожую позицию высказывал глава DeepMind Демис Хассабис, сравнив масштаб грядущих перемен с промышленной революцией, только с куда более значительным влиянием на общество.
Комментарии (0)
Пока нет комментариев. Будьте первым!