Власть и прогресс - Саймон Джонсон

бремя филантропией. Как заявил Билл Гейтс на Давосской конференции 2008 года, у этих успешных людей есть возможность творить добро и одновременно развивать свой бизнес, помогая не столь успешным людям новыми продуктами и технологиями. Он объявил: «Вызов в том, чтобы спроектировать систему, в которой двигателем перемен становятся рыночные „пряники“, в том числе признание и возможность заработать», с целью «улучшить жизнь тех, кому не вполне выгодны рыночные отношения». Эту систему он назвал «творческим капитализмом» и поставил перед собравшимися филантропическую цель – «в следующем году запустить проект творческого капитализма», дабы облегчить проблемы мира.

В этой главе мы покажем, что представление о почти неизбежном благе, исходящем от новых технологий, в том числе от разумных машин, которое внушают нам талантливые предприниматели, – не что иное, как иллюзия, иллюзия искусственного интеллекта. Как и убеждение Лессепса, что каналы принесут выгоду и инвесторам, и мировой коммерции, это представление укоренено в идеологии, однако поддерживается тем, что обогащает и укрепляет мировые элиты, направляя развитие технологий в сторону автоматизации и контроля.

Само описание возможностей цифровой технологии исключительно в терминах «разумных машин» неправомерно сужает наше видение. Цифровые технологии универсальны, их можно развивать в самых разных направлениях. И, выбирая направление развития, нам стоит сосредоточиться на том, насколько полезно то или другое для достижения человеческих целей, – на том, что называется «практической значимостью». В прошлом, поощряя такое использование механизмов и алгоритмов, которое дополняло возможности человека и делало людей сильнее, мы приходили к технологическим прорывам, обладающим высокой практической значимостью. И напротив, завороженность искусственным интеллектом поощряет массовый сбор данных, лишение власти рабочих и простых граждан, переход к автоматизации даже там, где речь идет лишь о «автоматизации с потерей качества» – иначе говоря, там, где автоматизация не дает почти никакого выигрыша в производительности. И вряд ли совпадение, что такая «второсортная» автоматизация всерьез обогащает лишь одну группу людей – тех, кто контролирует цифровые технологии.

Мечты об искусственном разуме

Достижения цифровых технологий вызывают справедливое изумление. Новые способности машин позволяют невероятно расширить пределы наших возможностей и преобразить к лучшему многие стороны нашей жизни. И эти достижения в самом деле очень велики. Например, General Pre-Trained Transformer-3 – GPT-3, выпущенный в 2020 году компанией OpenAI, – это система обработки естественного языка, возможности которой поистине примечательны. GPT-3, уже обученный и оптимизированный на основе огромного объема текстовой информации из Интернета, способен создавать почти человеческие тексты – даже стихи, общаться на типовом человеческом языке и, что особенно впечатляет, переводить инструкции на естественном языке в компьютерный код.

Логика компьютерных программ проста. Программа или алгоритм – это инструкция, в соответствии с которой машина получает набор заранее определенных команд и, подчиняясь им, пошагово выполняет определенную задачу. Например, ткацкий станок Жаккара, получив несколько перфорированных карт (они здесь выполняли роль «команд»), начинал выполнять сложный и изящно спроектированный механический процесс, результатом которого становилась ткань с определенным узором, «запрограммированным» на картах. Используя разные карты, можно было получать разные узоры, иногда поразительно сложные.

Современные компьютеры часто называют «цифровыми», поскольку вводные команды они получают в дискретной форме, представляющей собой конечный набор цифр (чаще всего используются нули и единицы). Но общий принцип здесь тот же, что у ткацкого станка Жаккара: компьютер выполняет именно ту комбинацию вычислений или действий, которую определяет для него программист.

А что насчет искусственного интеллекта? К сожалению, общепринятого определения у него не существует. Некоторые эксперты определяют искусственный интеллект как машину или алгоритм, демонстрирующий «разумное поведение» или «высокоуровневые возможности»; но вопрос, что именно это значит, часто вызывает споры. Другие предлагают определения на основе программ, подобных GPT-3: разумную машину они приравнивают к машине, которая имеет цели, наблюдает за окружающим, самостоятельно ищет необходимые ей данные и пытается достичь своих целей. Например, GPT-3 в различных ситуациях самостоятельно определяет свои задачи и стремится выполнить их как можно успешнее.

Каково бы ни было точное определение современного машинного разума, ясно одно: новые цифровые алгоритмы уже широко применяются в самых разных областях нашей жизни. Вместо того чтобы разбираться в разных определениях машинного интеллекта и решать, какое из них точнее, будем просто говорить о «современном ИИ», имея в виду подход, господствующий сейчас в этой области.

Применение цифровых технологий, например станков с цифровым управлением в производственном процессе, началось задолго до появления ИИ. Серьезные прорывы в компьютерных технологиях за последние 70 лет были связаны с поиском способов применения ЭВМ в таких областях, как подготовка документов, ведение баз данных, бухгалтерия и учет. Программное обеспечение способно создать и новые возможности для производства. Проектирование с помощью компьютера позволяет с большей легкостью и точностью выполнять некоторые задачи проектировщика. Работу кассиров и других наемных служащих, работающих непосредственно с клиентами, тоже можно облегчить и сделать более продуктивной с помощью компьютеров. Кроме того – об этом мы много говорили в предыдущей главе – компьютеры позволяют автоматизировать многие операции.

Чтобы автоматизировать работу при помощи традиционного софтвера, она должна быть «рутинной» – иначе говоря, состоять из предсказуемых шагов, выполняемых в определенном порядке. Рутинные задачи повторяются снова и снова, в предсказуемых обстоятельствах. Например, машинопись – рутинная работа. То же можно сказать о вязании и о других простых производственных задачах, включающих в себя значительный объем повторяющихся действий. Программное обеспечение управляет машиной, взаимодействующей с физическим миром, и вместе они автоматизируют различные рутинные задачи – именно так, как задумывал Жаккар и как работает в наше время самое разное оборудование с цифровым управлением, от принтеров до компьютеризированных токарных станков. Кроме того, софтвер – неотъемлемая часть технологий робототехники, широко используемых для автоматизации производства.

Но очень небольшая часть человеческих задач по-настоящему рутинна. Большинство из того, что мы делаем, хоть в какой-то мере предполагает решение проблем. Мы справляемся с новыми ситуациями и вызовами, находя решения; а в поисках решений основываемся на аналогиях, извлеченных из прошлого опыта или обучения. Окружающая среда и обстоятельства постоянно меняются, так что нам приходится быть гибкими. Во многом мы полагаемся на социальное взаимодействие – общение, объяснения или просто на взаимное дружелюбие, возникающие между коллегами или между сотрудниками и клиентами в ходе экономических транзакций. Вообще человек, особенно среди себе подобных, – существо достаточно творческое.

Например, обслуживание клиентов требует сочетания навыков общения и решения проблем. Проблем, с которыми может столкнуться клиент, десятки тысяч, некоторые из них очень редки или просто уникальны. Относительно легко помочь пассажиру, который опоздал на рейс и хочет лететь ближайшим следующим самолетом. Но что, если путешественник приехал не в тот аэропорт или у него внезапно изменились планы и теперь ему нужно попасть совсем