Власть и прогресс - Саймон Джонсон

большей части населения почти не было ни политической власти, ни влияния. Довольно предсказуемо, что направление прогресса и роста производительности в таком сословном обществе поначалу ухудшило условия жизни миллионов простых людей. Что-то начало меняться лишь вместе с переменами в распределении власти – тогда технологии пошли иным путем, путем повышения предельной производительности рабочих. Очень важным было и появление на рабочих местах институтов и норм, поощряющих раздел прибыли, гарантирующих, что повышение производительности будет преобразовываться в рост заработной платы. Борьба за технологии и власть рабочих во второй половине XIX века и начала преобразование жесткой иерархической структуры британского общества.

В главах шестой и седьмой мы проследили за этим процессом сперва в Британии, а затем и в США, по мере того как технологическое лидерство в мире перешло от одной страны к другой. В XX веке технологии США еще решительнее двигались по пути увеличения предельной производительности. Так были заложены основы общего процветания – не только внутри страны, но и во многих других регионах, поскольку американские технологии и инновации распространялись по всему миру, способствовали массовому производству и повышали благосостояние среднего класса в самых разных странах.

Более пятидесяти лет США оставались на переднем крае технического прогресса; их производственные методы и практики, особенно цифровые инновации, и сейчас распространяются по всему миру, но теперь с совсем иными последствиями. Модель общего процветания, созданная в США, рухнула, когда власть сконцентрировалась в руках крупных корпораций, институты и нормы, поощряющие раздел прибыли, подверглись коррозии, а технологии, начиная примерно с 1980 года, двинулись в сторону всеобщей автоматизации.

Все эти процессы уже шли, и видение, предлагающее использовать технологии для автоматизации, слежки за сотрудниками и выжимания из них всех соков, уже прочно укрепилось в умах, когда началась последняя, третья по счету, волна моды на ИИ. Возвращение к сословному обществу уже идет вовсю – оно началось задолго до 2010-х. Но иллюзия ИИ и шум вокруг него ускоряют этот процесс.

Современный ИИ расширяет инструменты IT-элит, дает им в руки новые способы автоматизировать работу, оттеснять сотрудников и (предположительно) делать всевозможные благие дела, например повышать производительность и решать серьезные проблемы, стоящие перед человечеством. По крайней мере, так утверждают они сами. Спеша к своим целям во имя прогресса, вооруженные ИИ, эти лидеры еще меньше прежнего нуждаются в том, чтобы советоваться с остальным человечеством. Многие из них полагают даже, что все прочие люди не слишком-то умны и не способны сами определить, что для них лучше.

Союз цифровых технологий и большого бизнеса уже к середине 2000-х годов породил сотни цифровых миллиардеров. В 2010-е годы, с началом распространения ИИ, их состояния увеличились во много раз. Но произошло это не потому, что ИИ продемонстрировал какие-то хваленые чудеса и преобразил мир. Напротив, нынешний подход к ИИ не дает особых результатов, поскольку замена людей автоматизацией чаще всего не дает серьезного повышения производительности. Что еще хуже, автоматизация – путь не к общему процветанию, а в обратную сторону. И тем не менее ИИ завораживает (и обогащает) магнатов и топ-менеджеров, поскольку лишает их подчиненных какого-либо влияния и открывает новые пути монетизации информации о людях – об этом мы подробнее поговорим в следующей главе.

В безумной гонке за всеобщей автоматизацией и слежкой при помощи цифровых технологий на это никто не обращает внимания; вот почему мы называем это новое видение «иллюзией ИИ». В следующем десятилетии распространение ИИ увеличится, поскольку растет глобальная связанность: все больше домашней бытовой техники и иных машин постоянно подключены к облачным сервисам, что позволяет собирать все больше данных – а с ним укрепится и эта иллюзия.

Сегодня мы все ближе к будущему, описанному в «Машине времени», антиутопии Г. Дж. Уэллса. Наше общество уже состоит из двух сословий. Наверху – магнаты, твердо уверенные, что честно заработали свои состояния выдающимся умом и талантом. Внизу – обычные люди, которых IT-лидеры считают «склонными к ошибкам» и мечтают заменить машинами. По мере все более активного участия ИИ в современной экономике, скорее всего, верхний и нижний слои общества будут расходиться все дальше друг от друга.

Во всем этом не было ничего неизбежного. Цифровые технологии необязательно было использовать для автоматизации, и создателей ИИ-технологий никто не заставлял неразборчиво следовать этому тренду. Никакие неодолимые силы не принуждали IT-сообщество искать в машине разум, а не практическую значимость. В том, что развитие технологий пошло этим путем, не было ничего предопределенного – как нет ничего неизбежного и в сословном обществе, которое строят сейчас наши лидеры.

Из нынешнего тупика можно выйти, изменив конфигурацию распределения власти в обществе и направив технологические изменения по другому пути. Подобные перемены мог бы инициировать низовой демократический процесс. Но тут перед нами вырастает новое зловещее препятствие: ИИ представляет все больше проблем и для демократии. Об этом мы поговорим в следующей главе.

Глава десятая

Демократия трещит по швам

«История социальных сетей еще не написана, но, несомненно, в политике они играют немалую роль».

Крис Кокс, глава производственно-технического отдела Facebook, 2019 год

«Если все и всегда лгут – результат будет не тот, что люди начнут верить в ложь, а тот, что перестанут вообще чему-либо верить».

Ханна Арендт, 1974 год

2 ноября 2021 года известная китайская теннисистка Пэн Шуай опубликовала в социальной сети Weibo пост о том, что некий высокопоставленный чиновник принудил ее к сексу. Через 20 минут это сообщение было удалено и никогда больше в китайских соцсетях не появлялось. Однако за это время многие пользователи успели сделать скриншот, которым поделились в иностранных соцсетях. Доступ к этим иностранным медиа тоже был оперативно перекрыт. Пэн Шуай в Китае популярна и вызывает большой интерес; однако оригинальный пост видели очень немногие, и никакого публичного обсуждения не последовало.

Такое стремительное удаление политически чувствительной информации – не исключение, а правило в Китае, где Интернет и социальные сети находятся под постоянным надзором. По некоторым сообщениям, китайское правительство тратит на мониторинг и цензуру онлайн-контента 6,6 млрд долларов ежегодно.

Кроме того, правительство Китая серьезно вкладывается в другие цифровые технологии, особенно в использование ИИ для наблюдения за гражданами. Особенно заметно это в провинции Синьцзян, где систематический сбор данных об уйгурском мусульманском населении начался сразу после окончания беспорядков в июле 2009 года, а с 2014 года усилился. Коммунистическая партия поручила нескольким лидирующим IT-компаниям разработать инструменты для сбора, хранения и анализа данных об индивидуальных и семейных привычках, особенностях коммуникации, занятиях, тратах, даже хобби – все