Иной разум. Как «думает» искусственный интеллект? - Андрей Владимирович Курпатов

Вся эта сложная, даже хаотичная на первый взгляд динамика, порождённая внутренним вопрошанием, начинает — подсознательно — складываться в более мощный интеллектуальный объект, который уже и обеспечивает успешное решение.

В «калейдоскопе» мозга, где все «зеркала» решают свои задачи, возникает своего рода «резкость» — то есть складывается более-менее устойчивый, гармоничный узор.

На нейронном уровне это «складывание» означает, что одна из конкурирующих коалиций нейронов («доминант») победила, набрав наибольшие «вес» и «славу».

На уровне внутреннего чувства мы испытываем что-то вроде инсайта, или озарения, что свидетельствует о том, что в дефолт-системе «сварился» интеллектуальный объект, соответствующий ожиданиям центральной исполнительной сети.

Он-то и протискивается в достаточно узкий коридор осознания. В сознании словно бы вспыхивает целостное понимание, которое мы уже знаем как «ответ», хотя ещё и не можем полноценно выразить.

Но тут в дело вступает языковой центр, который превращает этот сложный, многомерный, невербальный инсайт в достаточно грубую, линейную и последовательную цепочку слов — с искажениями, утратой нюансов и неизбежными упрощениями.

Речевой центр работает как машинистка, которая пытается превратить в связный текст заметки учёного, оставленные им на салфетке.

Можно сказать, что мы наблюдаем реализацию знаменитой формулы Льва Семёновича Выготского из его легендарной книги «Мышление и речь»: «облака мысли», гонимые «ветрами мотивов», проливаются «дождём слов»[121].

Мышление в мозге — это подсознательный, децентрализованный, рекурсивный и предсказательный процесс. Его финальный продукт — это целостное, невербальное понимание-инсайт.

И лишь постфактум наш языковой аппарат пытается «навесить» на этот инсайт словесные ярлыки, облечь этот инсайт в слова. Мы не думаем словами, поскольку сама мысль рождается до слов. А это, мягко говоря, чрезвычайно близко тем процессам, которые мы описывали при анализе современного ИИ.

Итого

Итак, мышление нашего мозга — то, как он «думает», — устроено совсем не так, как нам интуитивно кажется. В нём нет единого центра, который «понимает», нет царского нейрона, управляющего остальными. Вместо этого миллиарды клеток, взаимодействуя друг с другом, создают то, что мы называем мышлением.

Здесь работает та же логика, что и у искусственного интеллекта: мозг постоянно предсказывает то, что произойдёт дальше, и корректирует себя, когда ошибка предсказания становится значимой и требует пере-сборки ответа.

Таким образом, в основе нашего мышления, как и «мышления» ИИ, — не гипотетическая глубина, а огромный масштаб и бесконечное уточнение, не чёткое знание, а динамика предсказания и обратные связи от реальности.

С другой стороны, мы видим и отличие между этими двумя типами разума.

• Наши предсказания вплетены в телесность и заряжены эмоциональными оценками — так что мы вовсе не просто так подозреваем у себя «глубину» понимания, ведь это телесная метафора, привычная для нашей культуры.

• Для ИИ «глубина» — это количество: количество связей и отношений, количество операций и система рассуждений. Для нас это выглядит как плоскость, но эта «плоскость» несопоставима с нашей по масштабу внутренней консистентности.

• Результаты нашего мышления обусловлены чрезвычайно ограниченным объёмом личных наших знаний и культурными фреймами — что, очевидно, делает наши расчётные механизмы мышления «субъективными», «тенденциозными», «частными».

• ИИ воспроизводит эти качества, потому что отвечает на наши запросы, которые содержат в себе и то, и другое, и третье. Но объективные возможности ИИ совершенно иные — вопрос в том, как нам их актуализировать, учитывая наши собственные ограничения.

Мозг не только вычисляет, он чувствует, реагирует, проживает. Его архитектура встроена в жизнь. Да, и наш разум, и разум машины рождаются из предсказаний, но вот миры, в которых они разворачивают свои предсказания, радикально различны. Наш мир состоит из плоти, эмоций, личной истории. Их мир — это векторы, статистика, вероятность. Две архитектуры, два ландшафта, две формы мысли.

И это ставит нас перед вопросом: если оба «думают» без центра, но так по-разному, что тогда означает само слово «мышление»?

Глава шестая

Два «понимания»

Границы моего языка определяют границы моего мира.

Людвиг Витгенштейн

Мы посмотрели на то, как производят свои «высказывания» две машины мышления — кремниевая машина искусственного интеллекта и человеческий мозг. На первый взгляд они кажутся двумя совершенно разными вселенными, но, несмотря на все очевидные различия, они, как оказывается, работают по одним и тем же принципам:

• обе системы являются машинами предсказаний;

• в обеих «знание-понимание» распределено по всей структуре;

• обе порождают сложность через рекурсивный диалог своих частей;

• каждая имеет отдельные структуры для реализации разных задач;

• в обеих «понимание» — это эмерджентный эффект масштаба.

Иными словами, хотя ландшафты этих двух миров и различаются, глубинная логика их внутренней архитектуры обнаруживает фундаментальное соответствие. Но можем ли мы, основываясь на этом, говорить, что за столь отличными феноменами, как человеческий мозг и искусственный интеллект, скрывается одно и то же «понимание»?

Что понимает ребёнок?

Слово без значения есть не слово, но звук пустой.

Слово, лишённое значения, уже не относится более к царству речи.

Лев Семёнович Выготский

Взрослых настолько забавляет, как ребёнок объясняет какие-то сложные понятия, что часто именно такие моменты становятся частью семейных юмористических шоу. Ведущий спрашивает ребёнка, что он думает о том или ином расхожем понятии — например, что такое любовь, чем занимаются его родители или зачем детям ходить в школу, — и ответы детей неизменно вызывают комический эффект. Почему?

Всё дело в том, что ребёнок пользуется, как их назвал в своё время Лев Семёнович Выготский, «житейскими понятиями» — то есть понятиями, которые он составил на основе своего небольшого ещё жизненного опыта. Тогда как мы с вами — взрослые — пользуемся уже «истинными понятиями», или, если быть точнее, «понятийным мышлением».

Понятийное мышление отличается от детского — «житейского» — мышления теми структурами, которыми оно оперирует. Ребёнок оперирует конкретными образами и ситуативными связями, случайными представлениями.

В основе же понятийного мышления лежат абстрактные, обобщённые, структурированные понятия. Эти понятия «отражают объективную сущность предметов и явлений, их внутренние, закономерные связи и место в иерархической системе знаний».

Чтобы понять всю глубину этого определения, давайте взглянем на отдельные характеристики понятийного мышления.

1. Абстрактность

Понятийное мышление не базируется на случайных, частных и внешних признаках объектов — например, цвета, размер, форма и т. д., — а выделяет их сущностные характеристики. Именно эти сущностные характеристики позволяют нам относить разные предметы к тем или иным группам и классам.

Например, и простуда — болезнь, и аллергия — тоже болезнь. Но может быть ещё и тупая травма, инфаркт, астигматизм, шизофрения — и всё это «в обобщённом и отвлечённом виде» болезни.

Внешние отличия