Это злая разумная опухоль - Питер Уоттс

Ближе к концу недавнего немецкого фильма «Er Ist Wieder Da» («Он снова здесь») Адольф Гитлер – переместившийся сквозь время в 2015 год – продолжает то, что начал. На крыше телестудии, поспособствовавшей его возвращению к власти (телевизионщики думали, что просто эксплуатируют особенно безвкусный интернетовский мем во имя рейтингов), недотепа-фрилансер, обнаруживший «лучшего в мире имперсонатора Гитлера», противостоит своему чудовищу Франкенштейна – однако Гитлер оказывается неубиваемым. И, что хуже, он делает несколько точных замечаний:

«В 1933 году люди не были обмануты пропагандой. Они избрали вождя, который открыто излагал свои планы с превосходной четкостью. Немцы избрали меня… обычные люди, решившие избрать необычного человека и доверить ему судьбу страны.

Что вы хотите сделать, Савацки? Запретить выборы?»

Это хороший фильм, смешной и страшный, и социологически правдоподобный (черт побери, возможно, даже социологически неизбежный), а учитывая, что одна из реплик Гитлера – это «Сделаем Германию снова великой», неудивительно, что в последние несколько месяцев его открывают заново. Представьте себе гибрид «Бората», «Терминатора» и «Весны для Гитлера», заключающий в себе идеально воссозданный мем про Гитлера в бункере.

Но это противостояние на крыше – оно, мне кажется, проникает в подлинную суть вещей: «Что вы хотите сделать, Савацки? Запретить выборы?»

Я ощущаю примерно то же самое каждый раз, когда читаю очередную гневную обличительную речь о Cambridge Analytica.

В последнее время Интернет просто кишит такими материалами. Подробности туманны, однако то, что следует уяснить, видно уже по заголовкам: «Расцвет военизированной пропаганды с помощью искусственных интеллектов»[85]; «Погубят ли демократию большие данные и искусственный интеллект?»[86]; «Роберт Мерсер, миллиардер, разбогатевший на больших данных, ведет войну с традиционными СМИ»[87].

Краткая выжимка примерно такова: злой компьютерный гений из правых разработал пугающе эффективные технологии сбора данных, которые – основываясь исключительно на подсказках, собранных в социальных сетях, – знают отдельных избирателей лучше, чем их друзья, коллеги и даже родные. Таким образом становится возможен «поведенческий микротаргетинг»: предвыборная агитация, рассчитанная не на города, округа или демографические группы, а на вас. Лично. Бот для каждого избирателя.

А значит, в опасности сама демократия.

Опустим пока тот факт, что США все равно не действенная демократия (разве что вы считаете «демократией» систему, в которой – если процитировать Тома Пикетти – «Если большинство граждан не соглашается с экономическими элитами и/или группами интересов, оно обычно проигрывает»). Проигнорируем все неудобные сомнения в том, что те люди, которые сейчас кричат о Cambridge Analytica, были бы настолько же против подобной технологии, если бы она использовалась в интересах Клинтон, а не Трампа. (Не то чтобы у демократов не было собственных алгоритмов, собственных систем таргетинга с базами данных; просто эти алгоритмы были отстойными.) Отбросим очевидные идеологические элементы и сосредоточимся на основном аргументе: чем лучше Они тебя знают, тем точнее Они могут настроить свое послание. Чем точнее Они настроят свое послание, тем меньше у тебя свободы. Если дословно процитировать пост Хельбинга и др. в блоге SciAm,

«Тенденция сдвигается от программирования компьютеров к программированию людей». [Непрерывный курсив любезно предоставлен авторами оригинала]

Или вот что пишет Берит Андерсон на Medium.com:

«Вместо того, чтобы иметь дело с обманщиками-политиками, мы можем вскоре стать свидетелями кембрийского взрыва патологически лгущих политических и корпоративных ботов, которые будут манипулировать нами все более умело».

Вы ожидаете, что я пущу при виде этого слюну, верно? Что может быть мне больше по вкусу, чем макиавеллистический код, который считает нас не самостоятельными существами, а физическими системами, наборами вводов и выводов, чьи параметры состояния не демонстрируют ни малейшего следа Свободной Воли? Так и вижу Валери, выбивающую свои аритмичные стуки по люку, перепрограммируя экипаж «Тернового венца» без его ведома.

И я действительно пускаю слюну. В некотором роде. Я пожал плечами, когда выяснилось, что машине Мерсера хватило 150 фейсбучных лайков, чтобы узнать кого-то лучше его родителей (черт, да вы бы меня узнали лучше моих родителей на основе где-то трех), но удивился гораздо сильнее, выяснив, что 300 лайков достаточно, чтобы система узнала меня лучше, чем знает Кейтлин. И уж точно не нужно меня убеждать, что достаточная вычислительная сила вкупе с достаточным количеством информации могут предсказывать поведение человека и манипулировать им.

Но и что с того? Так же всегда было, нет?

Нет, утверждают Хельбинг и его друзья:

«Персонализированные реклама и ценообразование не могут сравниться с классической рекламой или скидочными купонами, потому что последние не адресованы конкретному человеку, а также не вторгаются в наше личное пространство с целью воспользоваться нашими психологическими слабостями и снизить критичность нашего восприятия».

Ой, да перестаньте вы пороть хуйню.

Они «пользовались нашими психологическими слабостями, чтобы снизить критичность нашего восприятия» задолго до того, как первая красотка со стенда кокетливо захихикала на хьюстонском автошоу; с тех пор, как первого гукающего младенца использовали для продажи шин Goodyear; с тех пор, как Международный фонд защиты животных решил, что соберет больше пожертвований, если покажет не гигантских банановых слизней, а то, как Лоретта Свит обнимается с бельками. Реклама пытается снизить критичность вашего восприятия по определению. Каждый безвкусный антиабортный плакат, каждый неизменно милый малыш, страдающий животом на местной автобусной остановке, каждый мультяшный медведь, творящий неестественные вещи с туалетной бумагой, – это попытка перепаять ваши синапсы, буквально изменить ваше сознание.

Ах, но ведь такая реклама не нацелена на отдельных людей, правда же? Это грубый хакинг универсальных подсознательных реакций – «о-о-о» в случае встречи с милыми младенчиками, «вау», когда в лицо мужчине-натуралу суют сиськи. (Ну, почти универсальных: покажите мне фотографию милого дитяти, и я скорее сблюю, чем засюсюкаю.) А это другое, алгоритмы Мерсера знают нас лично. Они знают нас так же хорошо, как друзья, родные, любимые!

Может, и так. Но, знаете, кто еще знает нас так же хорошо, как наши друзья, родные и любимые? Наши друзья, родные и любимые. Те же люди, что сидят напротив нас в пабе или за кухонным столом, которые льнут к нам, как сумчатые к родителям, когда выключается свет. Эти люди рутинно используют интимные знания о нас, чтобы убедить нас посмотреть конкретный фильм, или зайти в конкретный ресторан – или, помилуй боже, проголосовать за конкретного политика. Люди, которые, за неимением лучшего слова, пытаются перепрограммировать нас при помощи звуковых волн и визуальных стимулов; они делают то же самое, что и боты, и, скорее всего, делают это лучше.

Что вы хотите сделать, Савацки? Запретить рекламу? Запретить споры? Запретить общение?

Я слышу вон того шотландца в заднем ряду: он говорит, что речь идет