Власть и прогресс - Саймон Джонсон

с ситуационной природой интеллекта – ведь, находясь внутри той или иной ситуации, сложно в реальном времени понять, что именно она собой представляет, и ее классифицировать.

Еще один вечный вызов для статистических методов – проблема «избыточного подбора», которую обычно определяют так: использование большего числа параметров, чем требуется для определения каких-либо эмпирических соответствий. Здесь возникает опасение, что статистическая модель начнет принимать во внимание данные, не имеющие отношения к изучаемому вопросу, что приведет к неточным выводам и прогнозам. Статистики разработали немало методов для предотвращения избыточного подбора: например, разработав алгоритмы на одной выборке данных, затем тестируют их на другой. Тем не менее избыточный подбор остается слабым местом статистических подходов. Этот недостаток на фундаментальном уровнем связан с основной слабостью современного ИИ – отсутствием теории моделируемых феноменов.

Чтобы разобраться в этой проблеме, полезно лучше понять суть избыточного подбора, опирающегося на нерелевантные, или преходящие, характеристики исследуемого явления. Допустим, мы ставим алгоритму задачу отличить на картинках волков от хаски. Человек с этим справляется блестяще, а вот у ИИ эта задача вызывает большие трудности. Некоторым алгоритмам удавалось неплохо справиться, но впоследствии выяснилось, что они ориентировались по фону: собак распознавали по городскому пейзажу, например аккуратно подстриженной лужайке или пожарному гидранту, а волков – по фону, изображающему дикую природу, например заснеженные горы. Эти характеристики нерелевантны в двух фундаментальных смыслах. Во-первых, люди, отличая животных друг от друга, не используют для этого фон, на котором изображены животные, – и алгоритм, стремящийся смоделировать человеческое сознание, тоже так делать не должен. Во-вторых (это более практическое возражение), с переменой климата ареал обитания волков может измениться или же волк может каким-то образом попасть в город, где и потребуется его распознать. Иными словами, поскольку то, что окружает волков, не является их определяющей характеристикой, любой подход, основывающийся на том, что мы видим вокруг волка, при изменениях в мире или в контексте приведет к ошибочным прогнозам.

Избыточный подбор особенно неприятен для машинного интеллекта тем, что создает ложное ощущение успеха, когда в действительности машина не справляется с задачей. Например, статистическая связь между двумя переменными – допустим, средней температурой воздуха и объемом ВВП на душу населения – в разных странах не обязательно показывает, что климат оказывает серьезное влияние на экономическое развитие. Возможно, это результат специфического исторического процесса, в котором европейский колониализм затормозил экономическое развитие регионов, расположенных в других частях света с другими климатическими условиями. Не имея верной теории происходящего, легко спутать причинно-следственную связь с корреляцией – и именно это часто происходит с «умными» машинами.

Проблема избыточного подбора усугубляется, когда алгоритмы имеют дело с социальной по сути ситуацией, в которой люди реагируют на новую информацию. Изменение человеческих реакций может означать, что быстро меняется релевантный контекст – но и контекст может меняться вследствие тех действий, что предпринимают люди на основе информации, полученной от алгоритмов. Проиллюстрируем на примере из экономики. Алгоритм может заметить, что человек совершает ошибки при поиске работы – например пытается устроиться туда, где уже много кандидатов и мало вакансий, – и постарается его поправить. Процедуры, предназначенные для борьбы с избыточным подбором – такие как обучение и тренировка на разных выборках, – не устраняют фундаментальную проблему избыточного подбора: допустим, обе выборки адаптированы к конкретной ситуации, где имеется много незанятых рабочих мест в сфере розничной торговли. Но ведь со временем это может измениться – именно потому, что мы имеем дело с социальной ситуацией, где люди реагируют на доступную им информацию. Например, если алгоритм сообщает людям, ищущим работу, что сейчас в торговле много свободных вакансий, все они могут ринуться в торговлю, так что свободные вакансии быстро окажутся заполнены. Без ясного понимания этой ситуационной и социальной стороны человеческого познания, а также того, как меняется человеческое поведение в ответ на внешние стимулы, машинный разум никогда не избавится от «проклятия» избыточного подбора.

Недостаток социального интеллекта у ИИ влечет за собой и иные, более неприятные последствия. Хотя ИИ использует данные, исходящие от огромного сообщества пользователей Интернета, и, следовательно, имеет доступ и к их социальному измерению, при существующих подходах он не способен понять и учесть то, что человеческое понимание основывается на избирательном подражании, общении и спорах между людьми. В результате там, где умелый работник быстро и гибко реагирует на меняющиеся обстоятельства, зачастую используя навыки и точки зрения, почерпнутые у коллег, – многие инструменты автоматизации стремятся, наоборот, не увеличить, а снизить гибкость.

Разумеется, все эти аргументы не отрицают вероятность того, что в недалеком будущем наука откроет какой-то совершенно новый подход, который поможет решить проблему ИИОН. Однако пока никаких признаков такого подхода на горизонте не видно. И огромные деньги, крутящиеся в сфере ИИ, вкладываются отнюдь не в это. ИИ-разработки по-прежнему сосредоточены на масштабном сборе данных и автоматизации узких задач, основанной на техниках машинного обучения.

Экономическая проблема, возникающая с такой бизнес-стратегией, очевидна: там, где люди не так бесполезны, как порой о них говорят, а разумные машины не так уж разумны, как принято считать, мы получаем автоматизацию с потерей качества: люди теряют работу, но никаких обещанных чудес не происходит, и производительность почти не выигрывает. В сущности, даже сами компании не слишком-то выигрывают от автоматизации; некоторые из них, вполне возможно, внедряют ИИ лишь в угоду моде, как замечает специалист по ИИ Альберто Ромеро, которого мы уже цитировали:

«Рыночная власть ИИ такова, что многие компании его используют, сами не зная зачем. Просто все хотят запрыгнуть в этот вагон».

Современный паноптикон

Еще один популярный способ использования ИИ в наше время демонстрирует, как энтузиазм по поводу автономных технологий вкупе с массовым сбором данных направляет развитие цифровых технологий в очень специфическую сторону, которая, как и все предыдущее, обещает весьма скромную выгоду для корпораций, но значительные потери для сотрудников и для общества в целом.

В самом использовании цифровых инструментов для мониторинга сотрудников на рабочих местах нет ничего нового. Еще в начале 1980-х годов, расспрашивая работников об опыте присутствия в их жизни новых на тот момент цифровых технологий, психолог и исследователь бизнеса Шошана Зубофф снова и снова слышала, что цифровые технологии позволили менеджменту постоянно наблюдать за персоналом. Как выразился один офисный сотрудник:

«ETS [цифровая система слежения] – это возможность для руководства постоянно за нами следить. Теперь они в любую минуту могут узнать, чем мы заняты».

Но эти ранние попытки бледнеют в сравнении с тем, что мы видим теперь. Amazon, например, собирает огромный массив данных о своих доставщиках и сотрудниках на складах, затем накладывает на него