Искусственный интеллект – надежды и опасения - Джон Брокман

мешает нам спроектировать пятьдесят лет удвоения производительности цифрового производства? В ретроспективе понятно, к слову, что нужно избегать излишеств цифровых вычислений и коммуникаций и с самого начала решать такие проблемы, как свобода доступа и общая грамотность.

Если движение творцов действительно является провозвестником третьей цифровой революции[135], успехи проектировщиков ИИ в достижении многих первоначальных целей этой революции можно рассматривать как итог первых двух цифровых переворотов. Может показаться, что производство машин и машинное мышление никак не связаны между собой, но они составляют будущее друг друга. Те же тенденции масштабирования, которые сделали возможным появление ИИ, позволяют предположить, что нынешняя одержимость ИИ есть преходящий этап, и за ним наступит новая фаза, намного более важная, – слияние искусственного и естественного интеллекта.

Развитие атомов ведет к формированию молекул, развитие молекул – к формированию органелл, развитие органелл – к формированию клеток, развитие клеток – к формированию органов, развитие органов – к формированию организмов, развитие организмов – к формированию семей, развитие семей – к формированию общества, а развитие общества – к формированию цивилизаций. Эта великая эволюционная петля может замкнуться, когда атомы станут управлять битами, управляющими атомами.

Глава 17

Первый машинный интеллект

У. Дэниел (Дэнни) Хиллис

изобретатель, предприниматель и компьютерный теоретик, профессор инженерии и медицины в университете Южной Калифорнии, автор книги «Узор на камне: простые идеи, которые заставляют работать компьютеры».

Еще будучи студентом Массачусетского технологического института, Дэнни Хиллис создал компьютер из деталей «Тинкертойз»[136]. Тот насчитывал около 10 000 деревянных деталей, играл в крестики-нолики и никогда не проигрывал; сейчас он находится в Музее компьютерной истории в Маунтин-Вью, штат Калифорния.

Аспирантом и сотрудником лаборатории компьютерных наук и искусственного интеллекта Массачусетского технологического института в начале 1980-х годов Дэнни разработал компьютер с массивно-параллельной архитектурой на 64 000 процессоров. Он назвал этот агрегат машиной связи и основал первую, возможно, компанию в области ИИ – «Thinking Machines Corporation» – для производства и продажи этого устройства. Причем его ничуть не смутил ланч с Ричардом Фейнманом, на котором знаменитый физик заметил: «Это, безусловно, самая глупая идея, которую я когда-либо слышал». Пожалуй, выражение «не смутил» не вполне корректно, ведь Фейнман славился своим интересом к глупым идеям. К слову, Фейнман пришел на торжество по поводу регистрации компании, сотрудничал с ней летом, брался за специальные задания и внес неоценимый вклад в ее работу.

С тех пор Дэнни основал целый ряд технологических компаний, последняя из которых, «Applied Invention», сотрудничает с коммерческими предприятиями в разработке технологических решений для преодоления конкретных проблем. Он владеет сотнями патентов на параллельные компьютеры, сенсорные интерфейсы, дисковые массивы, методы предотвращения подделок и множество электронных и механических устройств. Его воображение, по-видимому, безгранично, и в очерке ниже он намечает некоторые возможные сценарии, результат нашего стремления к бесконечному улучшению ИИ.

«Наши мыслящие машины[137] – не просто метафора, – говорит он. – Вопрос не в том, окажутся ли они достаточно могущественными для того, чтобы причинить нам вред (наверняка), или всегда будут действовать в наших лучших интересах (вряд ли), а в том, смогут ли они в долгосрочной перспективе помочь нам отыскать правильный путь и вырваться из континуума Панацеи и Апокалипсиса».

«Я рассуждал о машинах, но не только о машинах с медными мозгами и мускулами из железа. Когда человеческие атомы сплачиваются в организацию, в которой они используются не в соответствии со своим назначением, как разумные человеческие существа, а подобно зубцам, рычагам и стержням, не имеет большого значения то обстоятельство, что их «сырьем» послужили плоть и кровь. Нечто в качестве элемента машины есть фактически элемент машины. Доверяем ли мы наши решения машинам из металла или тем машинам из плоти и крови, которые организуются в бюро, крупные лаборатории, армии и корпорации, нам никогда не получить верного ответа на свои вопросы, пока мы не начнем задавать правильные вопросы… Час почти пробил, выбор между добром и злом стоит у нашего порога».

Норберт Винер. «Человеческое применение человеческих существ»

Норберт Винер опередил свое время, рассуждая о потенциальной опасности проектируемых интеллектуальных машин. Полагаю, он предвидел намного дальше, заявляя, что первые системы искусственного интеллекта уже создаются в действительности. Он был прав, характеризуя корпорации и бюро – «машины из плоти и крови», по его определению, – как первые интеллектуальные системы. Он справедливо предупреждал об угрозе появления искусственного суперинтеллекта, цели которого вовсе не обязательно будут совпадать с нашими собственными.

Ныне очевидно – и не имеет значения, понимал это Винер или нет, – что организационные сверхразумы состоят не только из людей; они представляют собой гибриды людей и информационных технологий, позволяющих людям координировать свои действия. Даже во времена Винера «бюро, крупные лаборатории, армии и корпорации» не могли действовать без телефонов, телеграфа, радио и счетно-аналитических машин. Сегодня они не могут функционировать без компьютерных систем, баз данных и систем поддержки принятия решений. Эти гибридные интеллекты представляют собой технологически расширенные сети людей. Такой искусственный интеллект обладает сверхчеловеческими способностями. Он знает больше, чем каждый человек по отдельности, он способен лучше ощущать происходящее вокруг, он гораздо мощнее в выполнении комплексного анализа и составлении сложных планов. Наконец, ему доступно куда больше ресурсов и власти, чем любому отдельно взятому человеку.

Мы далеко не всегда осознаем, что гибридные суперинтеллекты наподобие национальных государств и транснациональных корпораций ставят собственные цели. Будучи созданы людьми и для людей, они нередко действуют как независимые разумные существа, и эти действия далеко не всегда соответствуют интересам людей, которые создавали эти государства и корпорации. Государство не обязательно заботится о благе граждан, а корпорация не обязательно радеет о благополучии акционеров. То же самое касается некоммерческих организаций, религиозных орденов и политических партий – все они не обязательно руководствуются в практической деятельности своими основополагающими принципами. Интуитивно мы осознаем, что их действия определяются некими внутренними целями, потому-то и принято персонифицировать эти сущности юридически и ментально. Употребляя выражения вроде «этого хочет Китай» или «к этому стремится Дженерал моторс», мы вовсе не изъясняемся метафорами. Упомянутые сущности действуют интеллектуально, они воспринимают мир, принимают решения и их выполняют. Подобно целям индивидов, цели организаций сложны и зачастую противоречивы, но это истинные цели – в том смысле, что они руководят действиями. Да, указанные цели формируются людьми, состоящими в организации, но они не идентичны человеческим целям.

Любому американцу известно, сколь слаба связь между действиями правительства США и разнообразными, зачастую противоречивыми целями граждан страны. То же самое верно для корпораций. Коммерческие организации номинально служат благу множества групп, включая сюда акционеров, топ-менеджеров, сотрудников и клиентов.