Иной разум. Как «думает» искусственный интеллект? - Андрей Владимирович Курпатов

и детей с синдромом Дауна, но существенно более старших по возрасту, результаты были почти одинаковыми — в обеих группах около 85 % испытуемых правильно ответили на вопрос о «вере».

У детей с аутизмом процент правильных ответов был намного ниже — всего лишь 20 %. То есть 80 % таких детей — уже 12-летних — не справились с заданием и уверенно указывали на реальное местоположение шарика, а не на то, где Салли, если учесть её ментальную модель, должна была бы его искать.

В других исследованиях было показано, что до 3 лет детям трудно учитывать ментальную модель «другого», но к 4 годам этот навык становится достаточно устойчивым. То есть к 4 годам ребёнок уже может отделить своё знание о ситуации от ментальной модели другого человека.

Это открытие показало, что способность «понимать» других — это не побочный продукт общего интеллекта, а именно специализированная психическая функция. Изучение аутизма, который Барон-Коэн позже описал как состояние «слепоты к чужому разуму»[209], превратило «теорию разума» из философской абстракции в конкретную, наблюдаемую (пусть и по её отсутствию) реальность.

Другое решение

Впрочем, современные ИИ с лёгкостью проходят базовый тест Салли-Энн, а ещё могут утешать расстроенного пользователя или объяснять ему сложную концепцию с учётом его предполагаемого уровня знаний. Разве это не свидетельствует, что ИИ обладает «теорией разума»?

Нет, перед нами лишь виртуозная иллюзия. У искус-ственного интеллекта есть функциональные аналоги, которые позволяют ему имитировать осмысленное социальное поведение, но это не психология, а сложнейшая многоуровневая статистика.

Давайте заглянем под капот и посмотрим, из чего на са-мом деле состоит «теория разума» у машины. Это не единый механизм, а комбинация трёх мощных инструментов.

• Краткосрочный контекст (рабочая память): трансформер, как мы знаем, удерживает в «поле внимания» всю историю текущего диалога. Это позволяет ему отслеживать нить разговора, ссылаться на предыдущие реплики и поддерживать видимость последовательной беседы[210].

• Долговременный профиль пользователя (память): некоторые системы могут сохранять информацию о пользователе между сессиями — его предпочтения, интересы, стиль общения, — что создаёт иллюзию личных отношений системы с нами и то, что у неё есть «память» о нас в человеческом смысле[211].

• Системные фильтры и инструкции (правила): в основе модели лежит скрытый конститутивный промпт, который задаёт ей личность, цели и этические рамки[212]. А обучение с подкреплением на основе обратной связи от человека (RLHF) «впечатало» в неё миллионы микроправил о том, как вести себя «по-человечески»[213].

В совокупности эти три инструмента создают то, что можно назвать операционной моделью пользователя, которая невероятно эффективна для предсказания наиболее подходящего ответа в диалоге. Она анализирует паттерны в наших словах и приходит к выводу, что пользователь с такой-то историей, задавший такой-то вопрос, скорее всего, ожидает ответа в таком-то стиле.

Но это предсказание на статистических данных. ИИ не понимает собеседника, а лишь подстраивается под него. У машины отсутствует субъективный опыт, и в случае понимания это уже вещь критическая. Но не нужно забывать, что наличие субъективного опыта в большинстве задач и не требуется — достаточно просто делать то, о чём просят.

Однако, когда мы говорим о «теории разума», понимание действительно становится проблемой, ведь здесь необходимо принять во внимание субъективный «внутренний мир» другого человека, померить его через собственную субъективность («Как бы это было для меня?», «Что бы это для меня на его месте значило?»). Но выразить её мы не умеем — банально не знаем как.

Когда мы сочувствуем другому человеку, пытаемся встать на его место, понять и принять во внимание его мотивы, мы последовательно симулируем в самих себе чужое состояние. При этом опираемся мы не на высказанные им слова, а на собственное субъективное переживание, которое мы бы могли испытать, будучи этим — другим — человеком.

Вы можете сказать человеку, что у вас «всё в порядке», но это будет означать нечто прямо противоположное — мол, всё настолько плохо, что вы не готовы это обсуждать. Но можно ли понять это из самих слов «всё в порядке»? Вряд ли. А как мы умудряемся понять такие — парадоксальные, по существу, сообщения? Лишь через чувствование внутреннего мира другого человека — всех его состояний и переживаний в данный момент.

По сути, мы лишь фантазируем, опираясь на своё самоощущение. Мы пытаемся предположить, что мы будем чувствовать, мысленно помещая себя в «шкуру» другого человека. При этом мы не знаем, каков он на самом деле, мы должны это придумать. И в качестве «болванки» для этой выдумки мы используем своё представление о самих себе, которое мы лишь обрамляем обстоятельствами жизни другого человека.

Вот почему, например, психолог — это, если, конечно, подходить к делу серьёзно, — весьма непростая профессия. Годы уходят на то, чтобы специалист смог, с одной стороны, нарастить своё внутреннее содержание, чтобы развернуть структуру своей субъективности, а затем, с другой стороны, выхолостить её так, чтобы эта его модель самого себя, на которой он будет разворачивать внутренние миры своих клиентов, была в достаточной степени универсальной для людей с совершенно разными внутренними мирами.

Обычно человек не формирует и не развивает эту свою базовую модель внутреннего мира человека намеренно и осознанно. А если он когда-то и «работал над собой», он вряд ли бы смог её как-то рационализировать. Он просто знает, что он чувствует в тех или иных ситуациях, какие состояния он может испытывать, насколько они ощутимы для него и как влияют на то, что он думает, делает и опять-таки чувствует.

Без этого «чувствовать» вся картина «внутреннего мира» другого человека рушится, подобно карточному домику. ИИ же, по крайней мере пока, симулирует в себе не состояние другого человека, а только определённый текст для него — статистическую модель текста, характерную для того или иного запроса. Куда большее значение имеет то, как составлен внутренний промпт модели, чем то, что мы пытаемся ей донести.

Например, OpenAI столкнулась с негативной реакцией пользователей, когда при переходе от ChatGPT–4о к ChatGPT–5 в августе 2025 года несколько видоизменила системный промпт для модели. Новая инструкция предполагала меньшую восторженность в общении с пользователями и не пыталась их беспрестанно нахваливать и поддерживать. Именно это изменение «характера» модели и вызывало разочарование аудитории.

Многие даже утверждали, что сама модель стала хуже. Хотя на самом деле, конечно, модель стала не хуже, а лучше, что и показывали соответствующие тесты. Но реакция пользователей была связана не с качеством модели, а с тем, что промпт, требующий от модели выглядеть более приветливой, перестал работать по умолчанию.

Так что благодаря