Будущее разума - Митио Каку

Иными словами, не исключено, что когда-нибудь у нас появится возможность создавать сознающих себя роботов и даже сознающий себя Интернет, но произойдет это еще очень не скоро, возможно, в конце века.

Но предположим на мгновение, что день этот наступил и сознающие себя роботы уже среди нас. Если цели такого робота совместимы с нашими собственными целями, то этот тип искусственного интеллекта не создаст для нас никаких проблем. Но что произойдет, если цели окажутся разными? Существует опасение, что люди могут проиграть в интеллекте сознательным роботам, и тогда нам грозит порабощение. Благодаря способности лучше нас моделировать будущее роботы смогли бы перебрать множество сценариев и найти наилучший способ свергнуть человечество.

Один из способов не допустить такого развития событий — сделать так, чтобы у роботов были только благие цели. Как мы уже видели, одного только моделирования будущего недостаточно. Это моделирование должно служить конечной цели. Если цель робота — всего лишь самосохранение, он будет защищаться от любой попытки вытащить вилку из розетки, что может стать источником серьезных неприятностей для человечества.

Захватят ли роботы власть?

Почти во всех научно-фантастических романах роботы становятся опасными для человечества из-за их стремления захватить власть. Слово «робот», кстати говоря, произошло от чешского слова «работник» и появилось впервые в 1920 г. в пьесе Карела Чапека «Р. У. Р.» («Россумские Универсальные Роботы»), где ученые создали новую расу механических существ, внешне не отличимых от человека. Вскоре тысячи этих роботов выполняли за человека всю грязную и опасную работу. Однако люди очень плохо обращались с роботами, и однажды те восстали и уничтожили человеческую расу. Роботы захватили Землю, но у них был один недостаток: они не размножались. Правда, в конце пьесы два робота полюбили друг друга, так что не исключено, что в результате на свет появилась новая ветвь «человечества».

Более реалистичный сценарий присутствует в фильме «Терминатор», где военные создали суперкомпьютерную сеть Skynet для управления всем ядерным арсеналом США. Однажды эта сеть «проснулась» и осознала себя. Военные решили выключить Skynet, но тут выяснилось, что в ее программе есть дефект: суперсеть запрограммирована на самозащиту, а единственный способ для нее защитить себя — устранить угрозу, т.е. человечество. Skynet начинает ядерную войну, в результате которой от человечества остается лишь жалкая кучка изгоев и бунтовщиков, занятая безнадежными сражениями с безжалостными машинами.

Разумеется, роботы могут стать угрозой. Нынешний беспилотный летательный аппарат Predator может поражать цели с замечательной точностью, но управляет им человек с джойстиком, находящийся за тысячи километров. По данным New York Times, приказы на применение оружия исходят непосредственно от президента США. Однако в будущем Predator может быть снабжен системой распознавания лиц, и тогда ему, возможно, будет разрешено стрелять при вероятности правильной идентификации цели не менее 99%. В этом случае он сможет автоматически, без вмешательства человека, стрелять в любого, кто подходит под описание.

А теперь представьте, что в компьютере такого беспилотника произойдет сбой и система распознавания лиц станет работать неправильно. Тогда этот аппарат превратится в дикого робота с разрешением убивать любого, кто попадет в его поле зрения. Или еще хуже, представьте целую флотилию таких роботов, управляемую из единого центра. Стоит в центральном компьютере полететь одному транзистору, и вся флотилия может впасть в безумие.

Более тонкая проблема возникает, когда роботы работают нормально, без сбоев, а в их программе присутствует крохотная, но фатальная ошибка. Самосохранение — одна из важнейших целей робота. Другая его цель — помогать людям. Проблема возникает, когда эти две цели противоречат друг другу.

В фильме «Я, робот» компьютерная система решает, что человечество идет к саморазрушению и гибели — достаточно посмотреть на бесконечные войны людей и их жестокость, — и единственный способ защитить род человеческий — это взять управление на себя и установить благодетельную диктатуру машины. Здесь противоречие возникает не между двумя целями, а внутри одной, притом совершенно нереалистичной. И убийственные роботы не сломались: они логически пришли к выводу, что единственный способ сохранить человечество — взять на себя управление обществом.

Одно из возможных решений этой проблемы состоит в создании иерархии целей. К примеру, желание помочь людям должно перевешивать стремление к самосохранению. Эта тема исследовалась, в частности, в фильме «2001». Компьютерная система HAL9000 представляла собой разумную машину, способную свободно беседовать с людьми. Однако приказы, отдаваемые компьютеру, противоречили один другому и не могли быть одновременно выполнены. Попытавшись сделать невозможное, компьютер, что называется, «съехал с катушек»; он сошел с ума, и единственным способом выполнить противоречивые команды несовершенных людей стало устранение этих самых людей.

Не исключено, что наилучшим решением этой проблемы было бы создание нового закона робототехники, в котором говорилось бы, что робот не может причинить вред человеку, даже если в его предыдущих командах есть противоречия. Робот должен быть запрограммирован не обращать внимания на противоречия низкого уровня в командах; главное — всегда выполнять основной закон. Но и такая система может оказаться несовершенной, и это в лучшем случае. (К примеру, если главная цель роботов — защищать людей и эта цель превыше всех других целей, то все будет зависеть от того, как роботы определят слово «защищать». Их механическое определение этого слова может сильно отличаться от нашего.)

Надо сказать, что некоторые ученые, такие как специалист по когнитивной психологии из Университета Индианы доктор Дуглас Хофстадтер, не боятся такого развития событий. Во время интервью он рассказал, что роботы — как дети, и почему бы нам не любить их, как собственных детей? Его отношение, по его собственным словам, сводится примерно к следующему: мы любим своих детей, хотя прекрасно знаем, что в конце концов они сменят нас и управление перейдет в их руки.

Доктор Ханс Моравек, бывший директор Лаборатории искусственного интеллекта в Университете Карнеги — Меллона, согласен с доктором Хофстадтером. В своей книге «Робот» (Robot) он пишет: «Дети нашего разума, не скованные тяжелой поступью биологической эволюции, будут вольны двигаться вперед и расти, чтобы в конце концов взять на себя безграничные и фундаментальные вызовы большой Вселенной… На какое-то время мы, люди, получим выгоду от их труда, но… как настоящие живые дети, они будут искать собственный путь и собственную судьбу, тогда как мы, их пожилые родители, молча отойдем в сторону».

Другие, напротив, считают, что такое решение ужасно. Может быть, проблему можно решить, если уже сейчас, пока еще не поздно, изменить наши цели и приоритеты. Раз роботы — наши дети, то мы и должны «научить» их доброжелательности.

Дружественный искусственный интеллект

Роботы — это механические существа, которых мы сами изготавливаем в лаборатории, поэтому, будут ли они дружественными или агрессивными, зависит от направления исследований искусственного интеллекта. Значительная часть финансирования поступает от военных, задача которых — выигрывать войны, так что создание роботов-убийц вполне вероятно.

Однако поскольку 30% всех промышленных роботов производится в Японии, существует и другая возможность: роботов с самого начала будут конструировать и создавать как полезных работников и товарищей по играм. Это вполне достижимая цель, если в исследованиях по робототехнике будет доминировать потребительский сектор. Философия «дружественного искусственного интеллекта» состоит в том, что изобретатели должны создавать роботов такими, чтобы те с первых шагов были запрограммированы на доброжелательность к людям.

В культурном отношении японский подход к роботом отличается от западного. Если на Западе дети с ужасом наблюдают за буйством роботов типа Терминатора, то в Японии дети погружены в религию синто, согласно которой духи живут во всех вещах, даже в механических роботах. Японские дети не испытывают дискомфорта при виде робота, а вопят от радости. Неудивительно поэтому, что роботов на рынке и в домах Японии становится все больше и больше. Они приветствуют вас в магазинах и читают лекции по телевизору. В Японии есть даже пьеса с роботом в главной роли. (У Японии есть и другая причина активно внедрять роботов — это будущие роботизированные сиделки для стареющей страны. Сегодня 21% населения Японии старше 65 лет, эта нация стареет быстрее любой другой. В определенном смысле Япония — это крушение поезда, показанное замедленной съемкой. Причина заключается в трех демографических факторах. Во-первых, японские женщины имеют самую большую ожидаемую продолжительность жизни среди всех этнических групп мира. Во-вторых, рождаемость в Японии — одна из самых низких в мире. В-третьих, страна придерживается строгой иммиграционной политики, и 99% ее населения — чистокровные японцы. Но вместо молодых иммигрантов, которые могли бы заботиться о пожилых японцах, Япония рассчитывает на роботов-сиделок. И эта проблема не ограничивается Японией; Европа на очереди. Италия, Германия, Швейцария и другие европейские страны испытывают аналогичное демографическое давление. К середине века население Японии и Европы может серьезно сократиться. Да и Соединенные Штаты отстают не слишком. Рождаемость среди уроженцев США в последние десятилетия сильно упала, но иммиграция в этом веке еще обеспечит им рост населения. Иными словами, вопрос о том, смогут ли роботы спасти нас от этих трех демографических кошмаров, — всем вопросам вопрос.)