«Если», 2015 № 03 - Артем Желтов

Последнее семейство метафор связано с видами и основывается на межвидовых различиях интеллекта. Такой ИскИн обладает магией — не в смысле заклинаний или снадобий, но в том смысле, как волк не может понять, как работает ружье, или какого рода усилия требуются, чтобы изготовить ружья, или природу человеческой силы, которая позволяет нам придумывать ружья.

Вернор Виндж пишет:

«Сильное сверхчеловечество будет не просто разогнанным до большой скорости эквивалентом человеческого ума. Трудно сказать, чем именно сверхчеловечество будет, но разница, вероятно, будет глубокой. Представьте себе ум собаки, работающий на огромной скорости. Дадут ли тысячелетия собачей жизни хотя бы один человеческий инсайт?»

© Артем Костюкевич, илл., 2015

Наталия Андреева

АНДРОИДЫ В ОКНАХ ВОЗМОЖНОСТЕЙ

/экспертное мнение

/гуманитарные технологии

/сервисные роботы

/андроиды

Фантасты и футурологи уже многие десятилетия упражняются на тему одиночества (или неодиночества) человека и человеческого разума во Вселенной, а также спорят по поводу определения «человека» и «разума». А ведь ответ на вопрос может быть найден не в литературе и не в философских спорах, а в лабораториях и исследовательских центрах, решающих задачи робототехники. Любому нейрохирургу известно, что один из базовых парадоксов в изучении мозга и разума — это классическая рекурсия: факт того, что мозг и разум изучают сами себя. Поэтому искусственно сконструированный разум, встроенный в оболочку, которая неотличима от человека, — это реальный водораздел между прошлым и будущим, способ переосмыслить понятия «человек», «человеческое» и «разум». И главное, надо помнить, что искусственный разум — один из величайших страхов человечества…

Любое обсуждение социальной робототехники — то есть роботов, органично включенных в общество и неотличимых от людей, — неизбежно упирается в вопросы восприятия андроидов людьми. В человеческом отношении к условно-машинным объектам вообще довольно много противоречий, открытых и скрытых страхов, неумеренного энтузиазма и столь же неумеренного скепсиса. Между тем, по всему миру группы исследователей работают над технологиями социализации роботов, от обеспечения двигательных функций, аналогичных человеческим, до распознавания андроидами человеческих эмоций. И если технологические аспекты создания гуманоидных роботов описаны и более-менее понятны (сенсоры и датчики, алгоритмы работы в любых непредвиденных ситуациях, мехатроника и пр.), то социальные последствия появления андроидов пока описываются исключительно в рамках сценария «роботоапокалипсиса». Поэтому не мешало бы задуматься о том, как именно будет происходить включение андроидов в общество. Если вообще будет.

Очевидно, что на формирование отношения к андроидам прямо повлияют «страшилки про андроидов», многие из которых существуют уже сейчас. Самую большую роль сыграет страх, широко представленный в научно-фантастических книгах и фильмах, а именно — страх перед бунтом андроидов, мечтающих заместить собой «настоящих людей» (можно подумать, что восстание неантропоморфных роботов, которые жаждут уничтожить человечество, хоть чем-то лучше!). Значимость страшилки, как это ни печально, связана с тем, что в ней есть рациональное зерно. На заре палеолита (или мезолита, не суть важно) людьми — то есть «своими» — считались только члены племени; все остальные были нелюдями. И базировалось все это на банальной задаче выживания. С течением времени мало что изменилось, разве что дубинки сменились огнестрельным оружием или записями в социальных сетях. Статус «другого» (или «чужого») получали и получают христиане, мусульмане, язычники, граждане сопредельных государств, мигранты, представители сексуальных меньшинств, соседи по лестничной клетке и вообще любые реальные или воображаемые существа, которые зачастую не вписываются в узкие и ограниченные представления отдельных людей об опасном и безопасном.

При этом самый интенсивный и полностью иррациональный ужас вызывают как раз существа, которые больше всего похожи на «своих» (одеждой, цветом кожи, речью и пр.) Именно страх скрытой угрозы лежит в основе шпиономании, доносительства и поиска незримых врагов: когда угрозу невозможно распознать, ее начинают искать буквально везде. И именно поэтому к числу самых страшных монстров относятся человекообразные нелюди: вампиры, зомби, призраки, оборотни… И роботы-андроиды, конечно же. Феномен неприятия «человекоподобного» даже получил отдельное название — «эффект зловещей долины»[11].

Вторая по популярности страшилка, которую будут активно вспоминать и использовать, — это, конечно же, роботы, отнимающие работу у «настоящих людей». Возможность замены человека машиной довольно неприятна даже в том случае, когда речь идет, скажем, об автоматизации производства автомобилей. Что уж говорить о ситуации с появлением официантов-андроидов, врачей-андроидов или, чего доброго, поэтов-андроидов. Замена духовно богатых и тонко чувствующих людей на андроидов будет чудовищно болезненна для человеческого самолюбия, поскольку на протяжении очень, очень долгого времени человек считал себя венцом творения и/или эволюции, последним и величайшим звеном всех пищевых цепочек. Не говоря уже о том, что на гуманоидных роботов неизбежно распространится более общий страх перед высокими технологиями как таковыми, непознаваемыми и чудовищно сложными, угрожающими человечеству. Философия неолуддизма, призывающая к уничтожению хай-тека и возвращению к простой жизни на лоне природы, тому наглядное подтверждение.

Наличие большого количества страшилок приведет к естественному замалчиванию и замыливанию любых тем, связанных с положением андроидов. Как водится, о существовании андроидов будет неприлично говорить в обществе, как, например, в викторианской Англии было не принято обсуждать венерические заболевания, секс или, чего доброго, проблемы с психикой. О гуманоидных роботах будут рассказывать скабрезные анекдоты, — только не при дамах, как можно! — а восприятие андроидов как людей будет считаться чем-то средним между извращением и признаком политической неблагонадежности. Законодательно будут закреплены правила, связанные с производством и использованием гуманоидных роботов. Скорее всего, правила эти будут включать в себя запрет на установку андроидам слишком сложного искусственного интеллекта, запрет на производство полностью человекоподобных роботов — с качественной мимикой и моторикой — или, как минимум, обязательное снабжение андроидов опознавательными знаками вроде клейма во весь лоб, синей кожи и пр.