Искусственный интеллект – надежды и опасения - Джон Брокман

Юта пролегает прямая линия. Это своего рода барьер, разделяющая озеро на две половины дамба, по обе стороны от которой водоросли разного цвета, и сверху линия производит внушительное впечатление своей прямизной. В Австралии есть дорога, длинная и совершенно прямая. По Сибири тянется железная дорога, на которой зажигаются огни, когда очередной поезд останавливается на очередной станции. Словом, из космоса видны и прямые линии, и какие-то узоры.

Но сочтут ли это признаком наличия некой цели на Земле при взгляде из космоса? Кстати, если уж на то пошло, как мы узнаем о присутствии инопланетян где-то там? Как мы узнаем, что получаемый нами сигнал обозначает какую-то цель? Пульсары обнаружили в 1967 году, когда наши приборы каждую секунду улавливали импульс радиоизлучения. Сразу предположили, что этот сигнал посылает какой-то маячок. Ведь кто или что еще могло посылать периодический сигнал? Но выяснилось, что источником сигналов является вращающаяся нейтронная звезда.

Один из критериев, потенциально пригодных для оценки целеполагания, заключается в том, что мы пытаемся определить, является ли какой-то объект необходимым условием достижения цели. Но следует ли отсюда, что данный объект создавался именно для этой цели? Мяч катится вниз по склону из-за воздействия гравитации. Или потому, что того требует принцип наименьшего сопротивления. Обычно выдвигаются такого рода объяснения для действия, которое выглядит целенаправленным, – объяснение механистическое и объяснение телеологическое. По сути, все наши нынешние технологии не пройдут проверку на необходимость для достижения цели. Большая часть наших изобретений представляют собой плоды технологической эволюции, их никак не назовешь необходимыми для реализации наших (как вида) «исконных» целей. Взгляните на процессорный чип: в природе не существует потребности добиваться того, на что способен этот чип.

Вопрос об установлении цели – если угодно, о предназначении – чрезвычайно сложен и важен. Галактический радиошум подозрительно схож с «эхом» передачи данных по мобильной связи с использованием технологии CDMA[236]. В мобильной связи применяются псевдошумовые последовательности, обладающие определенными воспроизводимыми свойствами. При этом они выглядят как шум – и трактуются как шум, чтобы не забивать другие каналы связи. Идем дальше в дебри. Если нам случится уловить последовательность простых чисел, генерируемую пульсаром, мы спросим, откуда они взялись. Значит ли это, что возникла некая цивилизация, в своем развитии открывшая простые числа, придумавшая компьютеры и радиопередатчики и отправившая сигнал? Или перед нами какой-то физический процесс, порождающий простые числа? Имеется клеточный автомат, генерирующий простые числа. Можно понять, как он работает, если его «разобрать». Внутри мы найдем нечто крохотное, скачущее, как мячик, и эти скачки порождают последовательность простых чисел. Не нужно никакой истории цивилизации, никакой биологии и всего прочего, чтобы этот автомат работал.

Не думаю, что абстрактная «цель» способна существовать сама по себе. Не думаю, что существует абстрактное значение. Есть ли цель у Вселенной? Тут мы неизбежно впадаем в теологию. Не существует осмысленного значения, содержащего абстрактное понятие цели. Цель есть последствие истории, последствие развития.

Возможно, среди прочего, что мы вправе сказать о нашем мире, мы могли бы заявить, что вся наша история, вся биология и вся цивилизация в конце концов приведут к финалу в виде числа 42[237] или чего-то подобного. Мы развивались 4 миллиарда лет, менялись под влиянием эволюции – и пришли к числу 42.

Этого не произойдет вследствие вычислительной несводимости. Имеются вычислительные процессы, которые надлежит выполнить, и нет способа их как-то ускорить. Бо́льшая часть науки представляет собой поиск «обходных путей» для вычислений в природе. Например, если мы занимаемся небесной механикой и хотим спрогнозировать местоположение планет через миллион лет, можно поступательно решать соответствующие уравнения. Но достижения науки позволяют сократить этот путь и уменьшить количество вычислений. Мы оказываемся умнее Вселенной, предсказываем конечный результат без прохождения всех этапов процесса. Но, что касается машин, даже достаточно умные машины и достаточно продвинутая математика не дадут возможности миновать какие-то промежуточные этапы. Ряд шагов попросту несократим. Мы вынуждены неукоснительно следовать процедуре. Вот почему история имеет значение. Будь мы в состоянии добираться до финиша без промежуточных этапов, история оказалась бы в некотором отношении бессмысленной.

Так что дело не в том, что мы умны, а все остальное в мире нам уступает. Не существует принципиальной абстрактной разницы между нами и облаками – или нами и клеточными автоматами. Нельзя утверждать, что «мозговидная» нейронная сеть качественно отличается от клеточно-автоматической системы. Различие проявляется в деталях. «Мозговидная» нейронная сеть является плодом долгой истории цивилизации, а клеточный автомат создан на моем компьютере мгновение назад.

Проблема абстрактного ИИ аналогична проблеме опознания внеземного интеллекта: как определить, наделен ли он целью? На этот вопрос, как мне кажется, мы пока не нашли ответа. Можно долго рассуждать – мол, ИИ обретет разум, когда начнет делать то-то и то-то, и т. д. Когда он сможет находить простые числа. Когда сможет обнаруживать вон то и вот это. Но имеется множество других способов достигать указанных результатов. Опять-таки, отсутствует четкая граница между интеллектом и простыми вычислениями.

Это еще одна часть истории Коперника: мы привыкли думать, что Земля является центром мироздания. Сегодня мы считаем себя особенными, потому что у нас есть интеллект, а у других его нет. Боюсь, плохие новости состоят в том, что это – не отличие.

Вот один из моих сценариев. Скажем, придет пора, когда человеческое сознание легко можно оцифровать, виртуализировать и т. д.; в итоге довольно быстро мы получим некий ящик с триллионом душ внутри. Да, в ящике триллион душ, и все они виртуальны. В этом ящике производятся молекулярные вычисления – возможно, в биологическом контексте или в каком-то еще. Так или иначе, в ящике разворачиваются сложные действия. А рядом с ящиком лежит камень. Внутри камня постоянно происходят всевозможные сложные действия – стараниями разнообразных субатомных частиц. В чем разница между камнем и ящиком с триллионом душ? Подробности происходящего в ящике обусловлены долгой историей человеческой цивилизации, в том числе историей вчерашних просмотров видео на YouTube. Тогда как камень обладает протяженной геологической историей, но не причастен к истории нашей цивилизации.

Понимание того, что отсутствует принципиальное различие между интеллектом и простыми вычислениями, заставляет воображать именно такое будущее: конец цивилизации, ящик с триллионом душ, каждая из которых тратит вечность на видеоигры. Какова же «цель» такого развития?

Примечания

1

Американская арт-группа, наибольшая активность которой пришлась на середину 1960-х гг. Аббревиатура USCO расшифровывается как «Наша компания» (Us Company). Группа экспериментировала с «дополненным» кино, визуализацией музыки, инсталляциями и пр. – Здесь и далее, кроме особо оговоренных случаев, примеч. ред.

2

Имеется в виду университетский