Иной разум. Как «думает» искусственный интеллект? - Андрей Владимирович Курпатов

изучаем интеллект, а на самом деле изучали условия его возникновения. Мы увидели, что архитектура — это ещё не всё. Важнее то, какую реальность эта архитектура познаёт.

Теперь, поняв анатомию этого чужого, кремниевого разума, мы готовы к самому главному путешествию. Мы готовы повернуть этот мощный аналитический аппарат на самих себя и спросить: если базовые принципы так похожи, то в чём же заключается уникальность нашего мышления? Что именно придаёт нашему «калейдоскопу» ту неповторимую яркость, которую мы называем сознанием, личностью и жизнью?

Часть третья

Встреча с иным

Если бы лев мог говорить, мы бы его не поняли.

Людвиг Витгенштейн

Мы с вами сделали полных два круга, пытаясь ответить на простой, казалось бы, вопрос: что значит «понимать»? Человек считает «понимание» своей уникальной способностью, но, как выясняется, даже не может объяснить толком, что она собой представляет.

Уже первый анализ показал, что «понимание» — это не отвлечённое знание, как мы привыкли о нём думать, а состояние структуры, обеспечивающей нашу адаптивную способность.

Иными словами, качество нашего «понимания» определяется мерой нашей адекватности той реальности, в которой мы решаем свои жизненные задачи. Причём адекватности не рациональной, а буквально физически воплощённой в нашем мозге.

Подлинное понимание — это не знание «чего-то», не гипотетическое представление о «чём-то», не абстрактное «что». Если мы что-то понимаем, мы, прежде всего, понимаем, «как» это работает, «как» это делается. Таким образом, «понимание» заключено в «как» любого действия, приводящего к ожидаемому результату.

С другой стороны, наше понимание — это и есть мы, ведь оно воплощено в нас, является нашей внутренней логикой. Человеческое «понимание» запечатлено в нейронных связях нашего мозга. Впрочем, точно так же и внутренние связи ИИ определяют и его самого, и его функциональность.

Поэтому вторым шагом мы сопоставили две «машины мышления» — нашу собственную и искусственного интеллекта. Как оказалось, они обе решают, по существу, одну и ту же задачу — строят вероятностные миры и действуют в них, прогнозируя следующий шаг. И чем лучше они справляются с задачей такого предсказания, тем, безусловно, лучше их «понимание».

Не так-то просто оказалось найти отличия между тем, как реализуется феномен понимания у человека и у искусственного интеллекта. На первый взгляд кажется, что дело только в «железе»: в нашем случае это биологическая ткань, а в случае ИИ — кремниевые чипы. Но есть и ещё одна важная деталь — умвельт.

Если мы говорим о чьём-то «понимании», мы обязаны учитывать тот «мир», тот умвельт, в котором оно осуществляется. Бессмысленно рассуждать об абстрактном «понимании», которое никак не связано с конкретными целями, а эти цели находятся в «мире» нашего специфического, свойственного именно нам, существования.

Возможно, величайшее заблуждение человека состоит в его уверенности, что он один знает «правильный» мир. Мы почему-то решили, что именно мы знаем, как всё (именно «всё») устроено «на самом деле». Поэтому нам ка-жется, что мы можем судить не только о своём, но и о чужом «понимании».

Однако чем дальше мы продвигаемся в понимании собственного разума, тем очевиднее становится тот факт, что никакого единственно правильного «мира» нет. Можно, конечно, допустить некую универсальную реальность, лежащую по ту сторону любой информационной системы или живого существа, но всякий, кто имеет с ней дело, обнаруживает в ней свой «мир».

То, как мы устроены, определяет и наш способ существования, и, соответственно, наше понимание. Потому, если мы хотим разобраться в том, насколько мы сами или какой-либо иной разум хорошо «понимает» свой «мир», мы должны знать этот — его — мир.

Наш — человеческий — мир определяется нашими потребностями (как говорил Алексей Алексеевич Ухтомский: «Мой мир таков, каковы мои доминанты»[131]), а также координатными векторами свойств, в которых он для нас развёрнут (время, пространство, модальность и интенсивность).

Очевидно, что мир ИИ радикально отличается от нашего. У него нет наших «потребностей», а в его основе — множественные статистические закономерности, обнаруженные им самим в процессе его обучения. Причём массивы данных, на которых обучился ИИ, — это даже не наши тексты, а уже преобразованные, токенизированные — некогда лингвистические — пространства.

Так можем ли мы понять «понимание» ИИ? Нет, никому не под силу преодолеть это фундаментальное методологическое ограничение — понимание не транспарентно. Мы думаем, что понимаем собеседника, но сколько раз мы ошибались? Полное взаимопонимание между нами принципиально недостижимо. Что ж удивляться, когда мы не можем доподлинно понять ИИ?

Воплощённость всякого понимания делает его неотторжимым от того, кто этим пониманием обладает. Поэтому очевидно, что для понимания чуждого понимания мы должны быть — ни много ни мало — теми, кого мы пытаемся понять. Так что можно бесконечно антропоморфизировать ИИ (пытаться смотреть на его мир через призму собственного), но это нам не поможет.

Каким же может быть план, учитывая при этом невероятный рост интеллектуальной мощи ИИ и экзистенциальные угрозы, о которых все говорят? Ответ, как вы, наверное, догадываетесь, не будет простым…

Глава седьмая

Игра в имитацию

Он с облегчением, с унижением, с ужасом понял, что он тоже лишь призрак, снящийся другому.

Хорхе Луис Борхес

Всякая великая технологическая революция начинается с одного гениально сформулированного вопроса. В отношении искусственного интеллекта этот вопрос был сформулирован Аланом Тьюрингом в 1950 году на страницах философского журнала Mind: «Я предлагаю, — писал Тьюринг, — рассмотреть вопрос: „Могут ли машины мыслить?“»

Впрочем, то, что последовало за этим, было не ответом, а гениальным философским манёвром, определившим ход всей последующей истории.

Тьюринг осознавал, что сама эта постановка — метафизическая ловушка. Чтобы ответить на неё, пришлось бы сначала дать исчерпывающие определения терминам «машина» и «мыслить», что неминуемо завело бы дискуссию в непроходимые топи многовековых философских споров.

Вместо этого он делает радикальный ход: «Этот новый вопрос я предлагаю назвать „Игрой в имитацию“»[132].

Суть игры: человек-судья ведёт текстовый диалог с двумя скрытыми от него собеседниками — человеком и машиной. Если по истечении времени судья не может с уверенностью определить, кто из них машина, то можно считать, что машина прошла тест.

Тьюринг, по сути, заявил: если нечто ведёт себя неотличимо от мыслящего существа, то для всех практических целей оно и является мыслящим. Мы переходим от вопроса о внутренней, недоступной нам сущности к вопросу о внешнем, наблюдаемом поведении.

Этот ход стал выстрелом стартового пистолета для технологической золотой лихорадки. Само название — «Игра в имитацию»