Конец индивидуума. Путешествие философа в страну искусственного интеллекта - Гаспар Кёниг

права. О такой возможности говорит, в частности, исследователь из Rand Corporation, включающий эту проблему в ряд других мрачных перспектив – тотального контроля и автономного вооружения: «Потребуется дать роботам право подавать иск, а также допустить, чтобы против них подавались иски, – но на чем именно мы остановимся? Дадим ли мы им право носить оружие в соответствии со Второй поправкой?» Честно говоря, при мысли о такой перспективе я просто теряю дар речи. Роботы перед лицом правосудия? Уходя с этой странной встречи, проходившей в одном из самых старых и влиятельных аналитических центров США, я решил пройтись по пляжу Санта-Моники, чтобы вернуть себе чувство реальности, которое ИИ, похоже, готов разрушить: глубокий песок, прохладные волны Тихого океана, скалистые уступы вдалеке.

Слабое утешение… Французский адвокат Ален Бенсуссан, создатель Ассоциации прав роботов, преподнес идею о юридическом статусе роботов настолько успешно и с таким блеском, что Европейский парламент принял в 2017 году резолюцию, призывающую Еврокомиссию выпустить директиву по этому вопросу. Рассуждение Алена Бесуссана основано на будущей способности самообучающихся ИИ принимать практически автономные решения, так что вину нельзя будет переложить на программиста алгоритма. Следовательно, роботу нужно будет выдавать цифровую регистрацию, удостоверение личности, определенный капитал, зависящий от рисков, и страховку от гражданской ответственности. И если индустриальная эпоха наделила юридическим лицом предприятия, цифровая эра предлагает нам продумать ту же возможность для алгоритма. Так, при несчастном случае или судебном разбирательстве информационные системы смогут напрямую общаться друг с другом, чтобы оценить понесенный ущерб. Вершить правосудие в таких условиях было бы проще: у роботов, по крайней мере пока, есть полезное качество – они не знают ни самообмана, ни лжи. А поскольку отправить алгоритм в тюрьму сложно, главное в такой процедуре – вопросы возмещения ущерба, ради которого, как можно представить, предприятия ИИ создадут специальные фонды. Две беспилотных машины столкнулись друг с другом на перекрестке? Они смогут за несколько секунд проанализировать степень ответственности друг друга и перейти к урегулированию конфликта.

Сегодня эта тема обсуждается юристами во всем мире[121]. Она вызывает бурные реакции. В апреле 2018 года более двух сотен экспертов, в том числе многочисленные юристы, подписали открытое письмо против резолюции Европарламента. С одной стороны, они полагают, что самообучающиеся системы не достигли зрелости, достаточной, чтобы считаться автономными, но это технический аргумент, который вскоре, возможно, будет опровергнут ИИ. С другой стороны, они указывают на своего рода юридическую тавтологию: предоставлять права роботам – значит, по определению, противоречить правам человека, как они определены в различных европейских законодательствах. Поскольку естественные права были придуманы для человека, ими нельзя наделять другие формы существования. Такое рассуждение, основанное на безусловном соблюдении современного статус-кво, отсылающего к естественному праву, в принципе отказывается допускать, что решение может приниматься не только человеком. Однако в нем косвенно признаётся, в какой степени наделение роботов статусом юридического лица потрясло бы фундаментальные структуры наших правовых систем, которые покоятся на принципе индивида, наделенного свободой воли и способного делать выбор между добром и злом или, по крайней мере, между соблюдением закона и его нарушением[122].

Почему все это нужно драматизировать? Если признание беспилотной машины юридическим лицом остается относительно благовидной гипотезой, решающей, по сути, лишь вопрос страхования, то применение того же самого рассуждения к логике nudge привело бы к гораздо более глубокому следствию, а именно к утрате юридического лица людьми. Если нейронауки вкупе с ИИ заставляют нас признать, что наши действия в значительной степени безответственны, не следует ли в самом деле делегировать часть наших прав и обязанностей роботам? Чем более эффективно применяется nudge, тем меньше можно считать индивида ответственным за его поступки. Единственным мотивом для обвинения человека стало бы как раз несоблюдение рекомендаций машины… Чтобы довести логику ИИ до конца, представим, что мы двигаемся в пространстве турникетов, где нас то в одном направлении, то в другом толкает магия nudge. Разве не будет тогда неразумным привлекать нас к суду в том случае, если мы сталкиваемся с кем-то и причиняем ему вред? Мы ведь просто следовали заранее установленной траектории, рекомендованной нам в полном соответствии с наукой, траектории, которая к тому же, в согласии с утилитаристской гипотезой, должна считаться благоприятной для всего остального сообщества. Ошибка могла быть совершена только самим турникетом, который, возможно, был поставлен в неправильном месте, но он наверняка запрограммирован так, чтобы тут же возместить жертве ущерб.

Почему Декларация прав человека, написанная еще до Дарвина, когда человеческая сущность еще считалась составляющей естественного теологического порядка, должна оставаться неизменной? Если системы ИИ способны предвидеть, оказывать влияние и даже руководить нашим поведением, можно ли все с той же уверенностью утверждать, что мы «родились свободными», как считал Руссо и как сказано в первой статье Декларации прав человека 1789 года? Наделить роботов статусом юридического лица – значит закрепить на правовом уровне конец эпохи просвещения.

Итак, больше никто ни в чем не виноват. За все теперь отвечает один лишь алгоритм.

Общество без предрассудков

Борьба с предрассудками стала настоящим наваждением в американских прогрессистских кругах. Там нужно вечно доказывать, что ты не из враждебного лагеря. Так, я был на конференции по демократии в New America, известном аналитическом центре, непартийном и вполне традиционном. Там обсуждалось недостаточное влияние общественного мнения на социально-политические институты. Потом пришло время вопросов аудитории. Одна участница спросила, не связана ли вся проблема с тем, что США были основаны белыми мужчинами. «Именно так», – с энтузиазмом ответил оратор. Остальные участники, университетские преподаватели и исследователи, поспешили покивать, боясь, что их навсегда заклеймят как предателей, привилегированных сторонников идеи превосходства белой расы. Вопрос, возможно, и в самом деле стоило поставить, однако этот единогласный ответ пробудил у меня сомнения… Вот другая история, открывшая мне глаза: воркшоп о «женщинах в технологиях», которых там и вправду мало. Организаторка выстроила нас в ряд и попросила белых сделать шаг вперед. Потом мужчинам предложили сделать еще шаг вперед, а затем отступить, если у нас нет диплома, и т. д. В результате была создана «шкала привилегий», о которой нас и попросили поговорить, когда мы уселись в кружок, как на собрании анонимных алкоголиков. Мне это упражнение показалось совершенно контрпродуктивным: в нем каждому предписывается его гендерная, генеалогическая или «расовая» идентичность, а потому мы сводимся к биологическим или историческим данным, которые наше общество как раз и должно было дать нам возможность преодолеть.

В беседах перед интервью меня много раз спрашивали, почему я, «белый мужчина», интересуюсь ИИ. Раньше я никогда не рассматривал себя в качестве «белого мужчины» (так же как не определяю себя в качестве человека «ростом 185 сантиметров с карими глазами»). Я по-прежнему