Власть и прогресс - Саймон Джонсон

или прогнозирования. Например, распознавание образа можно рассматривать как отнесение его к одной из длинного списка категорий. Таким образом, полагаясь на технологии статистики, применяемые к огромным массивам данных, ИИ сможет делать все более точные классификации. Пример такого огромного массива данных – социальные сети, в которых обмениваются сообщениями миллиарды людей.

Допустим, перед нами стоит задача распознать на картинке кошку. Прежний подход потребовал бы от машины полностью смоделировать процесс принятия решения, благодаря которому человек определяет, что перед ним кошка. Современный подход пропускает стадии моделирования и даже понимания того, как принимают решения люди. Вместо этого он использует огромный массив данных, накопленный миллиардами людей, которые видели изображения и сообщали, что узнают на них кошек. Затем создает статистическую модель для большого массива различных характеристик изображений, предсказывающую, в каких случаях человек скажет, что видит кошку. И, наконец, прикладывает эту статистическую модель к новым изображениям, чтобы спрогнозировать, увидят ли люди кошку и там.

Такой прогресс стал возможен благодаря повышению скорости компьютерных процессоров, а также новым графическим процессорам (GPU), изначально созданным для генерации графики высокого разрешения в видеоиграх; эти процессоры оказались очень удобны для обработки серьезных объемов данных. Кроме того, помог серьезный прогресс в технологиях хранения данных, снизивший стоимость хранения и обработки больших массивов информации, а также улучшение способности к быстрым масштабным вычислениям, распределенным по нескольким устройствам, в большой степени за счет усовершенствования микропроцессоров и развития облачной среды.

Столь же важен оказался и прогресс в машинном обучении, особенно «глубинное обучение» с помощью многослойных статистических моделей, таких как нейросети. В традиционном статистическом анализе исследователь, как правило, начинает с построения теории об определенных причинно-следственных связях. Простой пример такой причинно-следственной связи – гипотеза, связывающая стоимость акций на фондовой бирже США с размерами процентных ставок. Дальше исследователь естественным образом переходит к статистическому анализу, стремясь понять, соответствует ли его гипотеза имеющимся данным и позволяет ли предсказывать события. Теория рождается из человеческого знания и рассуждения, часто основывается на синтезе прошлого опыта и творческого мышления и рассматривает одновременно несколько возможных вариантов соотношения переменных. Прикладывая эту теорию к соответствующему массиву информации, исследователи сопоставляют с ней имеющиеся данные, а затем на основе своих оценок делают прогнозы. В зависимости от успеха или неудачи первой попытки дальше могут потребоваться дополнительные человеческие усилия – пересмотр теории или создание новой.

В современной работе ИИ исследование не начинается с четкой причинно-следственной гипотезы. Например, исследователи не сообщают, какие характеристики цифровой версии образа важны для его распознавания. Многослойные модели, применяемые к огромным массивам данных, пытаются компенсировать это отсутствие предварительных гипотез. Каждый слой может работать со своим уровнем абстракции: один слой представляет форму и общие очертания изображения, другой сосредотачивается на отдельных деталях, например на том, имеются ли на изображении глаза или лапы. Но, несмотря на все эти изощренные приемы, без участия человека машине трудно извлечь из имеющихся данных верные выводы, и этот дефект стимулирует потребность во все больших массивах данных и все более высокой мощности вычислений для их обработки и поиска паттернов.

Типичный алгоритм машинного обучения начинается с того, что гибкую модель применяют к выборке данных, делают прогнозы, а затем проверяют их на более крупной выборке. Например, при распознавании образов алгоритм машинного обучения сперва тренируется на выборке образов с пометками, указывающими, есть ли на них кошка. На основе этого первого шага строится модель, делаются прогнозы, они прикладываются к следующему, намного более крупному массиву данных – и так шаг за шагом; на каждом уровне прогнозы становятся все точнее.

У этого нового подхода к ИИ имеются три важных следствия. Во-первых, работа ИИ неразрывно связана с использованием огромных массивов информации. Говоря словами исследователя ИИ Альберта Ромеро, который разочаровался в этой индустрии и в 2021 году ее покинул:

«Если вы работаете в ИИ-индустрии, скорее всего, вы собираете данные, чистите данные, сортируете данные, классифицируете данные, проводите обучение на данных, оцениваете данные. Данные, данные, данные. Все это – чтобы построить модель, способную сказать: „Это кошка“».

Такая зависимость от гигантских массивов данных – неизбежное следствие восходящего к Тьюрингу требования автономии ИИ.

Во-вторых, этот подход делает современный ИИ сверхуниверсальным, с легкостью применимым где угодно – в том числе, разумеется, в областях куда более важных и интересных, чем распознавание кошек. Едва проблема узнавания кошек на картинках «решена», можно перейти либо к тому же самому для более сложных образов, либо к другой задаче, на вид совершенно непохожей на эту – например, к определению значений фраз на иностранном языке. Следовательно, ИИ пригоден для использования в самых разных областях экономики и всей нашей жизни – как к добру, так и к худу.

В конечном счете целью становится создание полностью автономного интеллекта общего назначения, способного делать все, что делают люди. Говоря словами одного из основателей и директора DeepMind Демиса Хассабиса, задача – «решить проблему интеллекта, чтобы потом с его помощью решить все остальные проблемы». Но точно ли это наилучший путь развития цифровых технологий? Как правило, этот вопрос так и остается незаданным.

Наконец, третье – и более проблематичное: такой подход еще более сдвигает развитие цифровых технологий в направлении автоматизации. Автономные разумные машины естественным образом будут брать на себя все больше задач, которые сейчас выполняют люди. Компании будут разбивать имеющиеся рабочие задачи на мелкие этапы, использовать программы ИИ и огромные массивы данных, чтобы научить ИИ всему, что делают люди, – и затем заменять людей, выполняющих эти задачи, алгоритмами.

Эту сосредоточенность на автоматизации поддерживает и подкрепляет элитистское мировоззрение создателей ИИ. Согласно их взглядам, большинство людей склонны ошибаться и не слишком хорошо выполняют свои задачи. Как утверждает один из сайтов, посвященных ИИ, «люди слишком часто совершают ошибки». С другой стороны, существуют очень талантливые (но немногочисленные) программисты, способные проектировать самые сложные алгоритмы. По выражению Марка Цукерберга, «выдающийся человек на своем месте не просто немного лучше – в сто раз лучше того, кто просто „не так уж плох“!» Или, как сказал один из основателей Netscape Марк Эндриссен, «пять великих программистов сделают неизмеримо больше, чем тысяча посредственных». Из такого мировоззрения следует: нормально и даже желательно, чтобы направление развития технологий авторитарно определяли немногие выдающиеся таланты – и целью их работы должно стать сокращение дорогостоящих человеческих ошибок на рабочих местах. Так замена работников машинами и алгоритмами становится вполне приемлемой, а собирание вокруг них огромных массивов данных – терпимым. Такой подход делает критерием прогресса не способность машины дополнять человека, а способность сравняться с человеком – и отлично сочетается со стремлением корпораций