Сознание как архитектура: почему поведение ИИ обманчиво

Внешнее сходство ответов нейросети с человеческими суждениями больше не считается доказательством наличия разума. Учёные предложили оценивать сознание не по поведению, а по внутренней архитектуре обработки данных, что ставит крест на признании текущих ИИ-моделей осознанными существами, несмотря на их способность к имитации сложной рефлексии.

Философ Колин Кляйн с коллегами в журнале Trends in Cognitive Sciences аргументирует, что субъективный опыт определяется вычислительными механизмами, а не результатами действий. Исследователи выделили набор индикаторов, таких как разрешение конфликтов между задачами и наличие сложных обратных связей в системе. Поскольку текущая архитектура больших языковых моделей радикально отличается от принципов работы биологического мозга, их «осмысленность» остается лишь удачной имитацией. В то же время поиск минимального сознания у насекомых, описанный в Philosophical Transactions B, подтверждает этот тренд: способность координировать сложное тело в меняющейся среде важнее анатомической близости к человеку. Авторы подчеркивают, что создание сознательного ИИ в будущем возможно, если инженеры перейдут к архитектурам, имитирующим фундаментальные вычислительные принципы биологических систем, а не просто статистическую обработку текста.