Искусственный интеллект – надежды и опасения - Джон Брокман

коммодификации информации, он вновь вернулся к математике Шеннона и пониманию информации как энтропии.

* * *

Перенесемся в наши дни. Во многих отношениях Винер оказался прав. Нарисованная им картина сетевых контуров обратной связи в коммуникациях между машинами стала обыденностью современной повседневной жизни. Более того, с первых дней эпохи интернета цифровое пиратство категорически опровергло убеждение в том, что «информацию» – будь то песни, фильмы, книги или программы – возможно придерживать. Ну да, введите платный доступ – и контент все равно найдет лазейку на свободу, ведь информационная энтропия так велика, что ее невозможно контролировать.

С другой стороны, огромные транснациональные корпорации – в том числе крупнейшие в мире и наиболее прибыльные – ныне исправно опровергают утверждение Винера о том, что «информацию» нельзя накапливать или монетизировать. По иронии судьбы, «информация», которой они обмениваются, ближе к определению Шеннона, чем к винеровскому, вопреки математичности доказательств Шеннона.

Сервис Google Books обеспечивает бесплатное распространение сотен тысяч литературных произведений, но сама компания «Гугл», наряду с «Фейсбук», «Амазон», «Твиттер» и их многочисленными подражателями, усвоила базовую форму «информации» и использует ее для максимизации своих доходов. Петабайты шенноновской информации – казалось бы, бессмысленный поток кликов, лайков и ретвитов, фиксируемый практически для каждого, кто когда-либо выходил в сеть, – просеиваются через запатентованные алгоритмы глубинного обучения для микротаргетинга всего на свете – от показа рекламных объявлений до новостей (правдивых или вымышленных), которые мы встречаем при просмотре веб-страниц.

Еще в начале 1950-х годов Винер предлагал исследователям изучать структуры и правила поведения муравьев – в отличие от людей, – чтобы в один прекрасный день машины могли обрести «почти безграничные возможности интеллектуального развития», доступные для людей (но не для насекомых). Он находил утешение в мысли о том, что машины станут господствовать над нами только на «последних ступенях возрастания энтропии», когда «статистические различия между индивидуумами» станут «равны нулю». Сегодняшние алгоритмы дата-майнинга[128] ставят винеровскую методику с ног на голову. Они приносят прибыль, эксплуатируя наши «древние» мозги, а вовсе не имитируя кору головного мозга, собирают информацию по всем нашим кликам, постам и блогам, по ночным поискам сетевых удовольствий, и стараются учитывать именно крошечные, остаточные «статистические различия между индивидуумами».

Безусловно, некоторые недавние достижения в области искусственного интеллекта оказались поразительными. Компьютеры научились творить визуальные произведения искусства и музыкальные композиции, сопоставимые с произведениями признанных мастеров, то есть создают ту «информацию», которую больше всего ценил Винер. Но на сегодняшний день наибольшее влияние на общество оказывают сбор и обработка информации в понимании Шеннона: она определяет наши покупательские привычки, участие в политической жизни, личные отношения, конфиденциальность в сети и многое другое.

Во что может эволюционировать глубинное обучение, если «информация» впредь будет толковаться так, как предполагал Винер? Куда мы придем, если исследования в области ИИ будут вдохновляться моральными убеждениями Винера, его обеспокоенностью по поводу безудержного милитаризма, стремительного усиления власти корпораций, одержимых извлечением прибыли, самоограничивающей секретности и сведения богатства способов человеческого самовыражения до обмена взаимозаменяемыми товарами? Возможно, глубинное обучение позволит культивировать осмысленную информацию и избавит нас от безудержной и безжалостной погони за бессмысленными битами.

Глава 16

Масштабирование

Нил Гершенфельд

физик и директор Центра битов и атомов МТИ, автор книг «FAB» и (совместно с Аланом Гершенфельдом и Джоэлом Катчером-Гершенфельдом) «Проектирование реальности», учредитель глобальной сети фаблабов.

В ходе вышеупомянутой встречи и переговоров в Коннектикуте Нил Гершенфельд внес в обсуждение глоток свежего воздуха, когда заявил, что терпеть не может «Человеческое применение человеческих существ»; эти слова встретили улыбками, как и его заявление, что информатика – это наихудшее, что могло случиться с компьютерами и наукой. В целом же он утверждал, что Винер упустил из вида последствия цифровой революции, происходившей в 1950-е (впрочем, некоторые наверняка скажут, что нельзя предъявлять подобное обвинение человеку, обитавшему, так сказать, на первом этаже недостроенного здания и лишенному дара ясновидения).

«Хвост виляет собакой, – продолжал Нил. – В моей жизни это были фаблабы и движение творцов[129]; когда Винер рассуждал об угрозах автоматизации, он не замечал очевидного, конкретно того, что доступ к средствам автоматизации позволит людям добиваться многого, скажем, через фаблабы; в моей области рост идет по экспоненте».

В 2003 году я навестил Нила в Массачусетском технологическом институте, где он руководит Центром изучения битов и атомов. Несколько часов спустя я еле пришел в себя после подробной экскурсии с демонстрацией весьма диковинных разработок. В частности, Нил показал мне работу своего ученика из популярного курса быстрого прототипирования («Как изготовить почти всё»), скульптора без инженерного образования, который создал портативное личное пространство для криков – вопи сколько угодно, твои крики записываются и воспроизводятся по запросу. Другой ученик с того же курса создал веб-браузер, позволяющий попугаям серфить в сети. Сам Нил занимался фундаментальными исследованиями по составлению дорожной карты для сугубо, казалось бы, фантастического «универсального репликатора». Словом, мне понадобилась пара лет, чтобы прийти в себя после этого визита.

Нил управляет глобальной сетью фаблабов – малых производственных систем с опорой на цифровые технологии; эти системы обеспечивают людям возможность создавать то, что им нравится. Будучи гуру движения творцов, объединяющего цифровую коммуникацию, вычисления и производство, он порой оказывается в положении, когда может взглянуть на текущие дебаты по безопасности ИИ со стороны. «Моя способность вести исследования основывается на инструментах, расширяющих мои возможности, – говорит он. – Спрашивать, интеллектуальны эти инструменты или нет, все равно что интересоваться, откуда мне известно, что я существую; это забавный философский трюк, не предполагающий эмпирической проверки». Его интересует «соотношение битов и атомов, граница между цифровым и физическим. С научной точки зрения это самая захватывающая задача, с которой я сталкивался».

Дискуссии об искусственном интеллекте почему-то производят впечатление игнорирующих историю. Точнее описать их как маниакально-депрессивные; в зависимости от того, кто и как считает, сегодня мы переживаем пятый цикл бума и спада[130]. Эти колебания маскируют непрерывность прогресса в данной области и последствия этого развития.

Продолжительность каждого цикла оставляет приблизительно десять лет. Сначала были мэйнфреймы, само появление которых сулило автоматизацию деятельности. Но внезапно выяснилось, что на практике непросто составлять программы для выполнения простых задач. Затем появились экспертные системы, которые накапливали знания экспертов и были призваны заменить последних. Здесь мы столкнулись с проблемой сбора знаний и осмысления случаев, еще не рассмотренных экспертами. Перцептроны[131] пытались обойти эту проблему через модели человеческого обучения, но итог был почти провальным. Многослойные перцептроны справлялись с тестовыми задачами, которые сбивали с толка более простые сети, зато испытывали очевидные сложности с неструктурированными задачами из реального мира. Ныне идет