Иной разум. Как «думает» искусственный интеллект? - Андрей Владимирович Курпатов

и т. д. Это совсем не то, что представляет собой наш язык, или, точнее, язык для нас — как мы его понимаем.

С другой стороны, и мы с вами не мыслим языком слов — мы мыслим образами, метафорами, ассоциациями, восприятиями, фрагментами воспоминаний, представлениями, внутренними состояниями, переживаниями. Таков наш умвельт, который мы уже пытаемся как-то, с разной степенью успешности, выразить на языке слов.

Иными словами, мы и искусственный интеллект отличаемся с точки зрения «железа», что крайне существенно. Но ещё отличаемся и реальностями (умвельтами), в которых мы существуем. Мы, наконец, выучены — то есть, по сути, сформированы — на разных данных.

Для нас этими данными был опыт взаимодействия с другими людьми в физической реальности и мире представлений, в его случае это были массивы текстов, представленных как упорядоченный набор цифр.

Странно ли, что он не лучшим образом «понимает» наш мир? По-моему, не странно. Обладает ли он сам «пониманием»? Мы никак не можем ему в этом отказать, поскольку он прошёл все те же уровни становления, что и мы. Но можем ли мы «понять» друг друга? И вот тут, видимо, ответ будет отрицательным.

Всё, что мы можем, — это реконструировать мир другого, а в данном случае и вовсе иного разума. Реконструировать — это построить абстрактную модель, которая даёт желаемый результат. Мы не увидим мир токенов глазами искусственного интеллекта, но мы можем построить модель того, как он «думает», чтобы обеспечить наилучшие взаимодействия.

Мы не можем увидеть мир шимпанзе, ворона, летучей мыши или осьминога, но мы можем его реконструировать, основываясь на тщательном анализе и несодержательной логике. И чем лучше будет наша реконструкция, тем лучше мы, что называется, поладим. То же самое касается и ситуации с искусственным интеллектом.

Но мы ничего не добьёмся, если не будем понимать, что имеем дело именно с мыслящей машиной. Не с простым алгоритмом, а со сложным эмерджентным эффектом, возникающим как бы поверх всех алгоритмов. Как наше мышление является производным от нейронной активности мозга, так и мышление искусственного интеллекта — это производная его структурной организации.

Аргумент Джона Сёрла потерпел поражение, потому что был основан на неверной, обывательской, донаучной интуиции о том, как работает человеческий разум. Конечно, ничто не мешает нам держаться за прежние заблуждения. Но тогда здесь уже не о чём говорить, а воображать, представлять и даже верить можно во всё что угодно.

Да, выводы нейронауки сгоняют с нас спесь «венца творения» и корректируют наши представления о своей «интеллектуальной исключительности». Мы сложные системы, способные создавать ещё более сложные модели мира и действовать, опираясь на них, достигая потрясающих результатов. Но это не наш «личный подвиг».

Лиши нас полноценного воспитания в социальном мире, мире культуры и языка, мы ничем не будем отличаться от любого примата. Всё, чем мы располагаем в нашем интеллектуальном пространстве, есть результат научения, а наши мысли — это лишь производные от этого научения.

Здесь нет никакой магии — нас учат, мы учимся и оказываемся способны делать множество прекрасных вещей (как, впрочем, и отвратительных). В любом случае претензии отдельной «личности» на всё, что создано человечеством за всю его долгую историю (а мы выучились на квинтэссенции этого огромного опыта человечества), мягко говоря, самонадеянны.

Но может быть, в таком случае всё человечество — это какая-то «суперличность»? В чём-то, наверное, да, но без нашей биологии — генов, сенсоров, структурных элементов мозга, формировавшихся миллионами лет эволю-ции, — и за всем человечеством в целом не может быть признано абсолютное авторство по отношению к феноменам интеллекта или разума.

Интеллект — это не то, что мы думаем, а то, что думает в нас. Мы думаем отдельные мысли, а в нас работает сложная система, которая их производит. И работает она не на наших абстрактных знаниях, а на биологических ресурсах, к производству которых мы не имеем никакого отношения. Это дар, который мы получили от феномена жизни и эволюции.

Так что да, скромность бы нам не повредила. Напротив, она позволила бы нам добиться большего, ведь иллюзии редко способствуют эффективности. И напомню, что даже религии требуют от нас кротости, а гордыню считают чуть ли не смертным грехом. Если же нам некомфортно от осознания, что мы, в сущности, являемся мыслящими системами, а не «личностями», парящими над собственным мозгом, то это страдает именно гордыня.

Мы считали себя исключительными в интеллектуальном отношении, а теперь создали разумную систему и почему-то сами этого испугались. Отчего же? Только потому, что в глубине души мы испытываем подсознательный страх — боимся, что она превзойдёт нас на интеллектуальном поле?

Есть ощущение, что мы объявили соревнование, в котором сами же планируем проиграть. Но что если это никакое не соревнование? Что если это новая реальность, в которой нам предстоит найти общий язык, взаимопонимание и взаимодополнение с этим новым — иным — разумом?

Часть вторая

Архитектура разумов

Мы вовсе не хотим завоёвывать космос.

Мы хотим расширить Землю до его границ.

Станислав Лем

Мы живём в удивительное время. Ещё каких-то несколько лет назад разговоры об искусственном интеллекте, способном вести осмысленный диалог, писать стихи или программный код, казались уделом фантастов или далёким горизонтом, до которого в лучшем случае ещё лет сто.

И вот почти в одночасье всё изменилось. Мы задаём вопрос в окне чата и получаем ответы, поражающие зачастую своей глубиной, уместностью, логикой и, что самое странное, человечностью. Машина объясняет нам теорию относительности, сочиняет сонеты в стиле Шекспира, даёт советы по сложным жизненным вопросам.

Кажется, что мы действительно столкнулись с чем-то, что обладает разумом. И естественная реакция на это чудо — либо благоговейный трепет, либо глубокий скепсис. С чем мы имеем дело — с рождением нового, невиданного ранее сознания? Или это просто очень хитроумный трюк, коварная «китайская комната» и гениальная имитация?

Но что если и то, и другое — неверно?

• Что если за этой ошеломляющей сложностью скрывается механизм, который, с одной стороны, элегантен, удивительно сложен, но при этом принципиально понятен?

• А с другой стороны, что если мы действительно столкнулись с некой новой формой «понимания» — пусть и совершенно нечеловеческого, но дающего реальный эффект?

Для ответа нам нужно будет разобраться с тем, как же на самом деле «думает» ИИ. Да, мы будем вынуждены прибегнуть к упрощениям и метафорам, ведь полная математическая модель современного ИИ — это предмет, непостижимый даже для его создателей.

Но наша цель