Участники эксперимента, работавшие с моделью Step 3.5 Flash, в 97% случаев принимали ответы системы как истину. Для сравнения: без сторонней помощи люди признавали неопределенность в 44% ситуаций. Авторы работы намеренно подбирали визуальные загадки, с которыми ИИ справляется плохо, чтобы отследить момент, когда человек теряет бдительность.
Даже введение финансового вознаграждения за правильные решения не исправило ситуацию. Точность ответов в группе с ИИ поднялась лишь до 16%, тогда как контрольная группа без подсказок демонстрировала результат в 27%. Ученые предупреждают, что такая динамика особенно опасна для детей, чьи навыки критического мышления еще не сформированы, а привычка получать готовый ответ от машины может стать автоматической.
Комментарии (0)
Пока нет комментариев. Будьте первым!