Искусственный интеллект – надежды и опасения - Джон Брокман

и руководству с нашей стороны, поскольку это единственный способ оптимизировать по-настоящему заслуженное вознаграждение.

Даже если наделить роботов способностью изучать наши истинные желания, остается нерешенным важный вопрос, на который сообщество ИИ пока не может ответить. Мы в состоянии принудить роботов к попыткам соответствовать внутренним ценностям человека, но ведь речь идет не о конкретном человеке. Да, у робота есть конечный пользователь (или даже несколько пользователей, скажем, когда это личный робот какой-то семьи, беспилотный автомобиль, везущий нескольких пассажиров по разным направлениям, или офисный помощник для команды инженеров); кроме того, есть проектировщик (а то и не один); еще он взаимодействует с обществом – тот же беспилотный автомобиль делит дорогу с пешеходами, транспортными средствами под управлением людей и другими беспилотными автомобилями. Как объединить ценности всех этих людей, когда возникает конфликт интересов, – вот проблема, которую нам обязательно предстоит решить. Исследования в области ИИ могут дать нам инструменты для объединения ценностей (любым способом, который покажется эффективным), но они не примут за нас необходимое решение.

Если коротко, мы должны позволить роботам осмыслять людей – воспринимать нас не только как препятствия или образец игрока в какой-то игре. Нужно, чтобы они учитывали нашу человеческую природу, чтобы они координировали и согласовали свои действия с нашими. Если мы добьемся здесь успеха, у нас действительно появятся инструменты, способные существенно улучшить качество нашей жизни.

Глава 14

Спуск по градиенту

Крис Андерсон

предприниматель, бывший главный редактор журнала «Wired», соучредитель и генеральный директор компании «3DR», автор книг «Длинный хвост», «Свобода» и «Творцы».

Компания Криса Андерсона «3DR» стояла у истоков современной индустрии беспилотных летательных аппаратов, а ныне занимается разработкой программного обеспечения для дронов. Крис организовал сообщество разработчиков аэродинамических систем с открытым исходным кодом (DIYDrones[112]) и совершил несколько довольно опрометчивых экспериментов, например, заслал летающего шпиона в лабораторию Лоуренса в Беркли[113]. Возможно, всему виной дурная, так сказать, наследственность, поскольку Андерсон является потомком основоположника американского анархистского движения[114]. Кроме того, с 2010 по 2012 год Крис руководил журналом «Wired», равно популярным среди пророков светлого и мрачного технологического будущего; за время его руководства журнал пять раз удостаивался профессиональной национальной премии для СМИ.

Крису не нравится термин «робототехник» («как и подобает всякому разумному робототехнику, я не считаю себя таковым»). Начинал он как физик. «Из меня вышел скверный физик, – сказал он мне недавно. – Но я не сдавался, перебрался в Лос-Аламос и там подумал: пусть Нобелевская премия мне не светит, но я все еще могу быть ученым». Все те, кто был причастен к физике и ориентировался на романтические образы Фейнманов[115] и творцов Манхэттенского проекта, понимали, что наша карьера в лучшем случае связана с работой над каким-нибудь проектом в ЦЕРНе на протяжении пятнадцати лет. Этот проект либо провалится, и наших заслуг никто не отметит, либо окажется успешным, и в таком случае нас причислят к сонму популярных авторов (за номером 300) и дадут должность доцента где-нибудь в Айове.

«Большинство моих соратников рванули на Уолл-стрит и занялись махинациями, это они раздули ипотечный пузырь. Другие взялись за развитие интернета. Мы создавали интернет, связывая физические лаборатории; потом возникла Всемирная паутина; потом мы – первыми – стали обрабатывать большие данные. У нас были суперкомпьютеры «Cray», по мощности вполовину слабее нынешних смартфонов, но для своего времени это были суперкомпьютеры. На досуге мы почитывали журнал «Wired», который появился в 1993 году, и сообразили, что вот инструмент, посредством которого мы, ученые, можем облагодетельствовать всех на свете. Интернет был не просто способом обмена научными данными, это была сногсшибательная культурная революция. Поэтому, когда издательство «Конде Наст» предложило мне возглавить журнал, я немедленно согласился. Этот журнал изменил мою жизнь».

На тот момент у Криса было пятеро детей – все поклонники видеоигр, – что и подтолкнуло его к «летающим роботам». Постепенно он забросил свою работу в «Wired». Остальное – уже история Силиконовой долины.

Жизнь

Комар сначала улавливает мой запах с расстояния в тридцать футов. Запах активирует его функцию преследования, которая представляет собой комбинацию простейших возможных правил. Двигайся в случайном направлении. Если запах станет сильнее, продолжай движение в том же направлении. Если запах ослабеет, двигайся в противоположном направлении. Если запах вообще пропадает, смени направление движения и продолжай искать. Повторяй, пока контакт с целью не состоится.

«Шлейф» моего запаха плотнее всего рядом со мной и рассеивается по мере распространения, а незримый «кокон» частиц над моей кожей витает, точно дым на ветру. Чем ближе к коже, тем выше плотность частиц; чем дальше, тем реже «кокон». Такое постепенное уменьшение называется градиентом, и данная характеристика описывает все постепенные переходы с одного уровня на другой; ее противоположностью является «шаговая функция», отражающая дискретные изменения.

Когда комар по этому градиенту приближается к источнику запаха, используя простой алгоритм поиска, он садится на кожу, которую воспринимает через детекторы тепла в своих лапках, настроенных на другой градиент – температуру. Далее он проталкивает острый, как игла, хоботок сквозь поверхность кожи, и третий набор датчиков в хоботке обнаруживает еще один градиент – плотность крови. Этот гибкий хоботок движется под поверхностью кожи, а запах крови ведет его к капилляру, который хоботок пронзает. Моя кровь начинает перетекать в тело комара. Миссия выполнена. Уф!

Нам кажется, что насекомые обладают неким радаром, позволяющим ориентироваться в темноте, а источники крови они отыскивают с интеллектом, который невозможно соотнести с их крохотным мозгом, но на самом деле всему причиной чрезвычайно чувствительный «нос» при практически полном отсутствии интеллекта. Вообще-то, комары по разумности ближе к растениям, реагирующим на солнечный свет, чем к управляемым ракетам. Но все-таки, применяя простое правило «следуй за своим носом» в буквальном смысле, они способны перемещаться по дому в поисках еды, проникать сквозь щели в дверях и занавесях и даже выцелить крошечный открытый участок кожи между шляпой и воротником рубашки. Все сводится к случайным перемещениям, при которых гибкие крылья и лапки избавляют насекомых от контактов с препятствиями, и инстинктивному поиску химического градиента.

Впрочем, «спуск по градиенту» – нечто намного большее, чем ошибка навигации. Оглядитесь вокруг – вы обнаружите его примеры повсюду, в элементарных физических законах Вселенной и в самом продвинутом искусственном интеллекте.

Вселенная

Мы живем в мире бесчисленных градиентов, от света и тепла до гравитации и химических следов («хемоследов»[116]!). Вода по градиенту силы тяжести стекает вниз, наши тела питаются химическими растворами, концентрация которых в клеточных мембранах варьируется от высокой до низкой. Каждое действие во Вселенной подчиняется градиентному принципу, будь то движение планет согласно