Власть и прогресс - Саймон Джонсон

не входит ни в бизнес-модели ведущих IT-компаний, ни в «иллюзию ИИ». В сущности, она диаметрально противоположна технократическому подходу, полагающему, что многие решения слишком сложны для обычных людей – их должны принимать специалисты. В коридорах большинства IT-компаний царит примерно такая атмосфера: здесь работают гении (в основном мужского пола), беззаветно трудящиеся ради общего блага. Вполне естественно, что они и должны принимать важные решения. С такой точки зрения политическое сознание масс – это то, чем следует манипулировать и снимать с него пенки, а вовсе не поддерживать и защищать.

Таким образом, «иллюзия ИИ» поддерживает антидемократический импульс, несмотря на то что многие ее носители считают себя умеренно левыми, поддерживают демократические институты и даже Демократическую партию. Эта поддержка часто укоренена в культурных симпатиях и очень удобно обходит краеугольный камень демократии – активное участие обычных людей в политике. Такое участие особенно яро отвергается, когда заходит речь об ИИ, поскольку большинство предпринимателей и венчурных капиталистов уверены, что люди ничего не понимают в этой технологии и боятся ее только из суеверия. Как выразился один венчурный капиталист, «большинство страхов насчет искусственного интеллекта сильно преувеличено, если не вовсе необоснованно». Значит, решение в том, чтобы игнорировать эти тревоги, смело двигаться вперед и добиться того, чтобы ИИ вошел в каждый дом, – ибо, «быть может, лишь тогда, когда эта технология будет полностью интегрирована в нашу повседневную жизнь и отойдет в нашем сознании на задний план, люди перестанут ее бояться». По сути, тот же подход высказал Марк Цукерберг в интервью журналу «Тайм»:

«Стоит появиться какой-нибудь технологии или инновации, серьезно что-то меняющей, – всегда находятся люди, которые оплакивают перемены и мечтают вернуться в прошлое. Но, мне кажется, настолько очевидно, что это благо для людей – всегда оставаться на связи с родными и друзьями!»

Этот антидемократический поворот усиливает и ускоряет еще одна сторона «иллюзии ИИ» – восприятие разрушения как добродетели, зафиксированное в девизе: «Двигайся быстрее, ломай все преграды!» Под разрушением здесь следует понимать негативные эффекты для других, особенно для трудящихся, организаций гражданского общества, традиционных СМИ и даже для демократии как таковой. Если все они стоят у тебя на пути и мешают делать большие деньги, они законная добыча.

Отражение этого антидемократического импульса можно увидеть в собственном исследовании Facebook, посвященном тому, как пользователи реагируют на позитивные и негативные эмоции своих френдов в новостной ленте. В 2014 году компания предприняла масштабное внутреннее исследование: новостной лентой почти 700 000 юзеров манипулировали таким образом, что сначала в течение недели она переставала показывать позитивные сообщения от френдов, а затем, также в течение недели, – негативные. Результат вышел предсказуемый: множество негативных сообщений и отсутствие позитивных влияли на пользователей самым неприятным образом.

Перед тем как проводить это исследование, компания не предупреждала пользователей, не спрашивала их согласия и даже не пыталась следовать общепринятым стандартам научного исследования, в которых информированное согласие субъекта обязательно. После того как некоторые результаты этого исследования были опубликованы сотрудниками Facebook в «Трудах Национальной академии наук», выпускающий редактор номера Индер М. Верна сделал к этой заметке редакторское примечание с выражением беспокойства о том, что эксперимент проводился без информированного согласия и не отвечает стандартам академического исследования.

Google следовал тем же принципам в своих попытках расширить объем информации, получаемой из Google Books или Google Maps. Компания игнорировала все понятия о приватности, не ставила пользователей в известность о своих действиях, не спрашивала их разрешения – надеялась, что как-нибудь прокатит или, по крайней мере, сойдет с рук. Что ж, в этом они не ошиблись.

Facebook и Google – не исключения в своей индустрии. В наше время для IT-компаний стало рутиной собирать огромные базы данных, не спрашивая согласия людей, чья информация или фото там используются. Например, в области распознавания изображений многие ИИ-алгоритмы обучаются и иногда соревнуются друг с другом на основе базы данных ImageNet, основанной известным компьютерщиком, впоследствии ведущим специалистом Google Фэй-Фэй Ли. База данных, в которой содержится более 14 млн изображений, разбитая почти на 22 000 категорий, состоит из частных фотографий, загруженных на различные платформы в Интернете – и полученных, разумеется, без разрешения авторов или людей, изображенных на снимках. В IT-индустрии такой подход считается нормальным. Говоря словами самого Фэй-Фэй Ли, «настала эпоха Интернета – и как будто на нашей улице перевернулся грузовик с визуальной информацией!»

Некоторые компании, как упомянутая выше Clearview AI или компания ИИ-безопасности Palantir, основанная миллиардером Питером Тилем, заходят еще дальше: систематически собирают данные беженцев или просто случайных прохожих, разумеется не спрашивая их согласия, и на основе этих данных пытаются научить ИИ распознавать людей, склонных к совершению преступлений. Во всех этих случаях подобные стратегии оправдываются тем, что сбор данных необходим для технического прогресса. Как высказался один инвестор стартапа по распознаванию лиц:

«Может, законы и определяют, что законно, а что нет, но нельзя же запретить технологии. Разумеется, все это может привести к антиутопии или чему-то подобному – но это нельзя запретить».

Как всегда, истина сложнее и тоньше. Навязывание людям массовой слежки и сбора данных – не единственно возможный путь технического прогресса, и ограничить его не значит «запретить технологии». Та антидемократическая траектория, по которой движется прогресс сейчас, обусловлена мотивом выгоды и «иллюзией ИИ», побуждающими как авторитарные правительства, так и IT-компании навязывать свое видение всем остальным.

Дни радио

Возможно, все это не специфика ИИ и высоких технологий. Любое великое изобретение в области массовых коммуникаций несет в себе опасность злоупотребления.

Рассмотрим еще одну важнейшую коммуникационную технологию XX века – радио. Оно тоже было универсальным и в каком-то смысле не менее революционным, чем социальные сети: впервые в истории радио принесло в жизнь людей массовое оперативное распространение информации, множество новых развлечений… и, разумеется, пропаганду. Сама технология была создана вскоре после открытия немецким физиком Генрихом Герцем радиоволн (в 1886 году) и после того, как десятилетие спустя итальянский физик Гульельмо Маркони сконструировал первый радиопередатчик. В 1900 году начали вещание первые коммерческие радиостанции, а к 1920-м годам радио было уже широко распространено во многих западных странах. И почти сразу его начали использовать для пропаганды и дезинформации. Президент Франклин Д. Рузвельт, понимая важность этой технологии, начал транслировать по радио свои «разговоры у камелька», в которых непринужденно, в форме беседы, объяснял американской публике проводимый им «Новый курс».

Одним из сторонников Рузвельта – человеком, чье имя в Соединенных Штатах стало символом радиопропаганды, – был отец Чарльз Кофлин, католический священник с большим ораторским даром. Однако к середине 1930-х годов отец Кофлин разочаровался в «Новом курсе» и основал собственный «Национальный союз