Власть и прогресс - Саймон Джонсон

потенциальные страдания. Нас это останавливает? Заставляет задуматься – и, быть может, даже отказаться от своей мечты? Или мы мчимся вперед, несмотря ни на что? Это тоже зависит от видения.

Но чем определяется, какое видение возьмет верх? Хоть речь и идет о том, как лучше использовать наши коллективные знания, решающими факторами становятся здесь вовсе не научные и не строго логические соображения. Выбор в этом контексте определяет власть и сила – прежде всего сила убеждения, о которой мы поговорим в главе третьей, – поскольку разные решения несут выгоду разным людям. У кого больше власти – у того и больше шансов убедить остальных в правоте своего видения, чаще всего тесно связанного с личными интересами. А тот, кому удается превратить свои идеи в общее видение, укрепляет свое положение в обществе и обретает дополнительную власть.

Не будем обманываться монументальными технологическими достижениями человечества. Мы по-прежнему готовы попасть в ловушку общего видения. Компании вкладывают деньги в то, что их управленцы считают наиболее выгодными решениями. Если компания, например, устанавливает новые компьютеры – значит, прибыль от них превысит их стоимость. Но в мире, где наши действия подчиняются общему видению, таких гарантий нет. Если убедить всех в том, что нам совершенно необходим искусственный интеллект, все начнут внедрять технологии, основанные на искусственном интеллекте, даже там, где существуют иные и, возможно, более выгодные пути организации производства. Схожим образом, если большинство исследователей развивают машинный интеллект в определенном направлении, скорее всего, другие покорно, даже слепо, двинутся по их стопам.

Еще более серьезные последствия возникают у наших решений, когда речь идет об универсальных технологиях, таких как электричество или компьютеры. Универсальные технологии создают платформу, на которой можно разработать множество практических решений, полезных (а иногда и вредоносных) во многих областях, для множества групп людей. И платформы также можно развивать в самых разных направлениях.

Электричество, например, не только стало более дешевым источником энергии, но и открыло дорогу множеству инноваций: радиоприемникам, бытовой технике, кинопродукции, телевидению. Сделало возможной фундаментальную реорганизацию промышленности: улучшилось освещение, появилась возможность индивидуального питания станков, стало возможно выполнять новые, более сложные и точные технические задачи. Основанные на электричестве новшества увеличили потребность в сырье и других материалах, например химикатах и топливе, а также в перевозках и продаже готовых изделий. Это привело к созданию новых пластмасс, красок, металлов, средств передвижения, которые затем использовались в других промышленных отраслях. А еще электричество создало условия для куда более серьезного, чем прежде, промышленного загрязнения окружающей среды.

Хотя многоцелевые технологии можно развивать очень по-разному, оказавшись в плену общего видения, люди начинают видеть лишь одну возможную траекторию; им становится трудно оторваться от нее и исследовать другие, быть может, более выгодные для общества. Горстка людей принимает решения – большинство с ними пассивно соглашается. Так естественный ход прогресса оказывается искривлен – в пользу тех, кто обладает властью, принимает решения и навязывает свое видение другим, и против тех, чьи голоса в обществе не слышны.

Возьмем для примера решение китайской Коммунистической партии ввести систему социального кредита, которая собирает информацию о частных лицах, компаниях, государственных организациях, следя за их надежностью и за тем, соблюдают ли они установленные правила. В 2009 году эта система была впервые введена на местном уровне, теперь действует уже по всей стране – и заносит в черные списки людей и организации, которые высказывают или публикуют в соцсетях что-либо, идущее вразрез с линией партии. Это решение, повлиявшее на жизнь 1,4 миллиарда человек, приняли несколько партийных лидеров вместе с главами китайских IT-гигантов, таких как Ali Baba или Baidu. Мнения тех, чью свободу слова и собраний, возможность получить образование, работу в госструктуре, путешествовать, даже получать жилье и госуслуги теперь ограничивает эта система, разумеется, никто не спрашивал.

И такое происходит не только в авторитарных государствах. В 2018 году основатель и директор Facebook[2] Марк Цукерберг объявил: алгоритмы работы его соцсети будут модифицированы так, чтобы облегчить пользователям «значимое социальное взаимодействие». На практике это означало, что платформа приоритизирует в новостной ленте посты от других пользователей, в первую очередь от родных и друзей, и пессимизирует выдачу постов от новостных агентств и известных брендов. Цель этих изменений состояла в том, чтобы увеличить вовлеченность пользователей, ведь люди с бо́льшим интересом читают и чаще «лайкают» посты своих знакомых. Основным последствием стало то, что пользователи начали больше времени проводить в Facebook с последующим обвальным распространением фейковых новостей и ростом политической поляризации: необъективные и попросту лживые посты теперь стремительно распространялись от одного пользователя к другому. Эта перемена повлияла не только на почти 2,5 миллиарда пользователей платформы – политические последствия этого сказались еще на миллиардах людей, не присутствующих в Facebook. А кто принял решение? Сам Цукерберг, главный исполнительный директор компании Шерил Сэндберг и еще несколько лиц из топ-менеджмента. Никто не посоветовался ни с пользователями платформы, ни с гражданами пострадавших от этого стран.

Что стояло за решениями китайской Коммунистической партии и Facebook? Ни в том, ни в другом случае они не были продиктованы принципами науки и техники. Не были они и очевидными следующими шагами на каком-то логически неизбежном пути прогресса. В обоих случаях мы видим разрушительную роль своекорыстных интересов – желания заткнуть рот оппозиции или повысить доходы от рекламы. Центральное место занимает взгляд руководства страны/компании на то, как должно быть организовано сообщество и чему в нем следует отдавать приоритет. Но еще важнее то, как высокие технологии используются для контроля: над политическими взглядами населения в случае Китая и над общественной активностью людей и информацией о них – в случае Facebook.

Вот что упустил Фрэнсис Бэкон и понял Г. Дж. Уэллс, имея преимущество в 275 лет истории человечества: технологии – это власть не только над природой, но и над собратьями-людьми. Дело не только в том, что от внедрения технических новинок одни выигрывают больше, чем другие. Речь о более фундаментальном принципе: различные способы организации производства обогащают и наделяют властью одних, ввергая в нищету и лишая власти других.

Эти соображения столь же важны для направления научно-технического поиска и в других сферах. Управленцы и владельцы бизнесов зачастую стремятся увеличить автоматизацию и усилить надзор, поскольку это позволяет им увеличить контроль над производством продукции, сэкономить на зарплатах и ослабить рабочее движение. Эта их потребность преобразуется в стимуляцию ученых и требование от них искать новые пути автоматизации и надзора – даже если развитие других технологий, не столь враждебных работникам, скорее поможет повысить производительность и найти путь к общему процветанию.

И в этих случаях общество