Искусственный интеллект – надежды и опасения - Джон Брокман

и сигналы. Разум обитает далеко за пределами черепа (и его симулякра, «материнской платы»). Если процитировать Мэри Кэтрин Бейтсон, которая рассуждает о кибернетике второго порядка, описанной ее отцом Грегори, разум есть материал, «отнюдь не обязательно определяемый такой границей, как оболочка из кожи»[224]. Паррено сочетает симуляцию искусства с математическими симуляциями, дабы подчеркнуть винеровскую, по сути, точку зрения, что любая подобная модель сама по себе не похожа на жизнь. Модели суть не более чем элементы сигнальных систем, они образуют «разум» только тогда, когда творческие «коллеги» вовлекают их в создание живого смысла. Современный ИИ загнал себя в угол, инструментализируя и конкретизируя задачи и подпрограммы, путая эти упражнения с реальной мудростью. Краткая культурная история, изложенная выше, показывает, что принимать данные за интеллект, видеть в цифровых сетях скопления «нейронов» и трактовать индивидов как «блоки» жизни – значит превосходить в примитивности даже грубые симуляции Конвея.

Да, можно и дальше клеймить упрямое высокомерие нынешнего ИИ и его претензии на «правильную (правую) кибернетику», осуждать тот путь, который привел к современным автоматизированным системам оружия, плохо замаскированной враждебности уберизации применительно к людям и капиталистическим фантазиям «Гугл». Но разумнее вернуться к «левой» кибернетике, к теоретической биологи и антропологии, исследующим межвидовое понимание интеллектуальных систем. Замечание Грегори Бейтсона о том, что корпорации лишь симулируют «агрегатные состояния людей» и выдают решения, максимизирующие прибыль, но идущие вразрез с желаниями «более общих и мудрых частей разума», звучит как никогда своевременно[225].

Кибернетическая эпистемология, предлагаемая здесь, опирается на новый подход. Индивидуальный разум имманентен не только телу, но и вне тела; существует более обширный Разум, для которого индивидуальный ум является лишь элементом. Этот больший Разум, считает Бейтсон, сопоставим с Богом; возможно, именно его отдельные люди принимают за Бога; но он имманентен всей взаимосвязанной социальной системе и планетарной экологии. Ни к чему коллективная и ошибочная вера в Бога, якобы вещающего из-за пределов человеческого познания (сей давно укоренившийся монотеистический взгляд, утверждает Бейтсон, ведет к понимаю природы и окружающей среды как расположенных вовне «индивида», превращая их в «дары для использования»). Скорее, «Бог» Бейтсона есть средоточие нашего сиюминутного опыта взаимодействия сознаний в мире; больший Разум есть плод обработки информации и действий, которые затем становятся основой для других действий с другими сущностями; это сеть симбиотических отношений, формирующая шаблоны, которые нам срочно необходимо ощущать и с которыми мы должны согласоваться[226].

От Цая в 1970-х годах до Линн Хершман Лисон в 1990-х и до Паррено в 2014 году художники критиковали «правую» кибернетику и предлагали альтернативный, «телесный», экологический взгляд на «искусственный» интеллект. Их художественное применение кибернетических существ подчеркивает мудрость симбиоза, воспроизводимого в тех видах поэзиса[227], которые доступны в этом мире: в ритмах сигналов и интуитивных действиях, порождающих движения жизни в «партнерстве» с электромеханической и магнитной техносферой. Это Жизнь – в ее таинственных негэнтропических[228] переплетениях с материей и разумом.

Глава 25

Искусственный интеллект и будущее цивилизации

Стивен Вольфрам

ученый, изобретатель, основатель и генеральный директор компании «Wolfram Research», разработчик программы символьных вычислений Mathematica[229] и языка программирования Wolfram Language, а также системы извлечения знаний WolframAlpha, автор книги «Новый вид науки».

Ниже приведена отредактированная стенограмма интервью со Стивеном, взятого в декабре 2015 года.

На протяжении без малого четырех десятилетий Стивен Вольфрам остается среди ведущих специалистов по разработке и применению компьютерного мышления; на его счету множество инноваций в науке, технологиях и бизнесе.

Статья «Клеточные автоматы как простые самоорганизующиеся системы» (1982), написанная им в возрасте двадцати трех лет, стала первой ласточкой многочисленных и значимых научных работ, посвященных постижению возникновения сложности в природе.

Приблизительно тогда же мы со Стивеном познакомились лично. Я основал «Клуб реальности», неформальное собрание интеллектуалов, которые собирались в Нью-Йорке, чтобы обсудить свои труды в кругу коллег, представляющих другие научные дисциплины. (Напомню, что в 1996 году «Клуб реальности» ушел в онлайн как проект Edge.org.) Первым докладчиком стал именно Стивен Вольфрам, «вундеркинд», прибывший в институт перспективных исследований в Принстоне. Отчетливо помню его сосредоточенность, когда он сидел на диване в моей гостиной и говорил без перерыва около часа перед собравшимися учеными.

Впоследствии Стивен сосредоточился на том, чтобы сделать знания о мире легко вычислимыми и доступными. Его программа Mathematica представляет собой базу современных технических вычислений. А система извлечения знаний WolframAlpha выдает экспертные суждения, опираясь на технологии ИИ. Он считает, что разработанный им язык Wolfram Language – это первый подлинный вычислительный язык общения для людей и ИИ.

Мы снова встретились четыре года назад, договорившись обсудить нынешнее состояние ИИ в Кембридже, штат Массачусетс. Стивен вошел, поздоровался, сел и, покосившись на видеокамеру (я записывал нашу беседу для проекта Edge), заговорил – и не умолкал добрых два с половиной часа.

Очерк ниже представляет собой отредактированную версию этого выступления, которое стало своего рода мастер-классом от Вольфрама и видится мне отличным завершением настоящего сборника – а доклад Стивена в «Клубе реальности» в 1980-х годах оказался отличным началом для интеллектуального предприятия, которое смогло объединить множество достойных мыслителей, чьи работы, собственно, и составили книгу, ныне доступную широкой публике.

Технология для меня заключается в достижении человеческих целей и реализации их автоматического осуществления машинами. Человеческие цели в прошлом сводились к перемещению объектов – сначала руками, затем при помощи вилочного погрузчика. Теперь же труд, который возможно выполнять автоматически с помощью машин, оказывается не столько физическим, сколько умственным. Очевидно, что имеется возможность автоматизировать выполнение многих задач, решением которых мы, люди, издавна похвалялись. Итак, каким видится будущее человечества в этой ситуации?

Люди рассуждают о будущем интеллектуальных машин и о том, возьмут ли они на себя ответственность за определение собственных действий. Но придумывание и постановка целей не кажутся дорогой к автоматизации. Кто-то или что-то должно определить цель машины – что именно она пытается сделать. А как определяются цели? Для человека они, как правило, задаются личной историей, культурной средой, историей нашей цивилизации. Цели – уникальная человеческая особенность. Что касается машины, ей можно задать цель при проектировании.

Какие объекты обладают разумом, целеполаганием, предназначением? Прямо сейчас нам известен всего один ответ на этот вопрос – мы сами, наш мозг, наш человеческий разум. Человеческий интеллект, как я однажды предположил, намного превосходит все, что возникло в мироздании естественным образом; это результат сложного процесса эволюции, в силу чего он отделен от всего остального. Но благодаря науке, которой занимаюсь, я понял, что ошибался.

Например, люди могут сказать: «У погоды собственное разумение». Это анимистическое допущение, которому как будто не место в современном научном мышлении. Но