Иллюзия логики: почему нейросети не умеют рассуждать

Команда под руководством Суббарао Камбхампати пришла к выводу, что современные архитектуры трансформеров используют промежуточные токены исключительно как инструмент повышения вероятности правильного ответа. В ходе экспериментов с навигацией в лабиринтах модели сохраняли высокую точность даже при замене логических цепочек на бессмысленные наборы данных. Производительность страдала только при нарушении статистических шаблонов текста, что подтверждает: нейросети ориентируются на форму, а не на содержание.

Феномен «озарения» и длинные пояснения в простых задачах оказались артефактами обучающей выборки, а не признаком вычислительных усилий. Авторы работы предупреждают, что такая «театральность» ИИ формирует ложное доверие у пользователей. В медицине или инженерии, где проверка каждого шага системы затруднена, эта иллюзия интеллекта становится серьезным риском. Вместо развития антропоморфных диалогов разработчикам стоит сосредоточиться на архитектурах, где внешние алгоритмы верификации обеспечивают математически строгий контроль за результатами.