Власть и прогресс - Саймон Джонсон

лежит простой факт: ни традиционным цифровым технологиям, ни ИИ не под силу выполнять задачи, включающие в себя социальное взаимодействие, адаптацию, гибкость и коммуникацию – то есть важнейшие задачи в любом деле.

Так или иначе, игнорирование чисто человеческих возможностей может обернуться самосбывающимся пророчеством, поскольку решения, принимаемые автоматикой, будут постепенно сужать «окно» социального взаимодействия и человеческого обучения. Возьмем как пример обслуживание клиентов. Хорошо обученный сотрудник может очень эффективно решать проблемы главным образом потому, что устанавливает эмоциональную связь с клиентом, нуждающимся в помощи (например, сочувствует человеку, с которым произошел несчастный случай и который теперь хочет подать иск). Сотрудник-человек быстро разбирается в сути проблемы – отчасти потому, что коммуницирует с клиентом, на основе этой коммуникации понимает, что тому нужно, и, исходя из этого, подыскивает решения. Это взаимодействие с клиентами дает сотруднику опыт и помогает со временем выполнять работу все лучше и лучше.

Теперь представим себе, что эту работу раздробили на отдельные задачи, расписали их алгоритмы и поручили искусственному интеллекту. Столкнувшись со сложной проблемой, он с большой вероятностью не сможет ни полностью ее понять, ни решить. Что происходит дальше? Клиента долго гоняют по кругу, задавая ему одни и те же вопросы и предлагая выбрать из нескольких неподходящих вариантов. Наконец появляется сотрудник-человек – в этой схеме он играет роль спасателя. Но к этому моменту клиент, как правило, уже устал и раздосадован, возможность образовать с ним эмоциональную связь утрачена, он не дает такой полной и подробной информации, какую мог бы дать сразу, – и возможности сотрудника чему-то научиться из этой коммуникации и приспособиться к определенным обстоятельствам оказываются ограничены. В результате сотрудники-люди становятся менее эффективны – и это, возможно, побуждает менеджеров и технологов задуматься о том, как бы еще сильнее сократить их задачи.

Эти уроки о человеческом интеллекте и адаптивности часто игнорируются ИИ-сообществом, которое спешит автоматизировать как можно больше задач, не обращая внимания на то, какие чисто человеческие навыки требуются для их исполнения.

Несколько лет назад громко возвещался триумф ИИ в рентгенологии. В 2016 году сотрудник исследовательского отдела Google Джеффри Хинтон, лауреат премии Тьюринга, один из создателей современных методов глубинного обучения, гордо заявил:

«Можно прекратить обучать рентгенологов. Уже сейчас очевидно, что через пять лет ИИ, прошедший глубинное обучение, будет выполнять эту работу лучше, чем человек».

Однако ничего подобного не произошло, и потребность в рентгенологах с 2015 года даже увеличилась – по очень простой причине. Полноценная лучевая диагностика требует еще больше ситуационного и социального интеллекта, чем, например, обслуживание клиентов – и находится полностью за пределами нынешних возможностей машин. Напротив, современные исследования показывают, что гораздо более эффективно сочетание человеческого опыта и знаний с новыми технологиями. Например, тонкие и сложные алгоритмы машинного обучения способны улучшить диагностику диабетической ретинопатии, возникающей у пациентов с диабетом из-за повреждения кровеносных сосудов сетчатки. И тем не менее точность значительно повышается, если результаты работы алгоритмов, исследующих сложные случаи, затем передают врачу-офтальмологу, который и ставит окончательный диагноз.

Технический директор отдела Google, занимавшегося разработкой беспилотных автомобилей, в 2016 году очень уверенно заявил, что его сыну (тогда одиннадцатилетнему) через пять лет, то есть в 2021 году, уже не придется получать водительские права. В 2019 году Илон Маск предсказал, что уже к концу 2020 года Tesla выпустит на улицы миллион полностью автоматизированных такси, способных возить пассажиров без водителя. Пришли и ушли и 2020, и 2021 год, а эти предсказания не сбылись – все по той же причине. Как показал эксперимент с «оголенными улицами», езда по запруженным транспортом городским артериям требует сильного ситуационного интеллекта, позволяющего приспосабливаться к быстро меняющей обстановке, и еще более сильного социального интеллекта – чтобы угадывать намерения других водителей и пешеходов.

Иллюзия общего разума

Апогеем нынешнего подхода к ИИ, вдохновленного идеями Тьюринга, можно назвать поиск искусственного интеллекта общего назначения (ИИОН), не уступающего человеческому.

Несмотря на впечатляющие успехи таких проектов, как GPT-3 или системы рекомендаций, нынешнему подходу к ИИ едва ли суждено воспроизвести человеческий интеллект или даже добиться по-настоящему высоких уровней производительности во многих задачах, связанных с принятием решений, которые успешно выполняют люди. Искусственный интеллект общего назначения обречен оставаться мечтой, по крайней мере, в обозримом будущем – и задачи, требующие задействовать ситуационные и социальные стороны человеческого познания, и дальше будут представлять для машинного разума неразрешимую проблему. Едва мы взглянем повнимательнее на то, что именно достигнуто сейчас, нам станет ясно, насколько сложно применить эти нынешние достижения к чисто человеческим задачам.

Возьмем самые прославленные успехи ИИ, например шахматную программу AlphaZero, о которой мы упоминали в главе первой. AlphaZero даже называют «творческой», поскольку она делает такие ходы, которых не замечали или не рассматривали живые гроссмейстеры. И тем не менее подлинным разумом она не обладает. Начать с того, что AlphaZero – очень узко специализированная программа: она умеет только играть в шахматы и другие похожие игры. Даже простейшие задачи за пределами шахматной доски, например простая арифметика или игры, в которых больше социального взаимодействия, – за пределами ее возможностей. Хуже того, совершенно непонятно, как можно было бы адаптировать архитектуру AlphaZero ко многим простейшим вещам, которые делают люди, например к проведению аналогий, играм с более гибкими правилами, обучению естественному языку – словом, к тому, что из года в год легко и умело проделывают сотни миллионов годовалых детей.

Даже в пределах шахматной доски интеллект AlphaZero очень специфичен. Хотя шахматные решения, принимаемые AlphaZero в границах правил игры, впечатляют, в действительности она не пользуется творческим мышлением того типа, какое используют люди: не проводит аналогии между разрозненными, случайно сопоставленными явлениями, не находит с их помощью решения для новых и разнообразных проблем.

GPT-3 более универсален и способен впечатлить сильнее, однако и у него те же ограничения. Он умеет выполнять только те задачи, которым был предварительно обучен, и не владеет способностью суждения, так что противоречивые или необычные инструкции вгоняют его в ступор. Еще хуже то, что эта технология ни проявляет ни капли ситуационного или социального интеллекта, присущего людям. GPT-3 не способен делать умозаключения о контексте, в котором выполняет свои задачи, и понимать причинно-следственные отношения между действиями и их результатами. Поэтому он часто неверно понимает даже простые инструкции – и едва ли когда-нибудь научится адекватно реагировать на меняющиеся или совершенно новые обстоятельства.

На самом деле все это иллюстрирует более широкую проблему. Статистические подходы, использующие распознавание паттернов и прогнозирование, плохо приспособлены для улавливания сути многих человеческих навыков. Начать с того, что эти подходы плохо совместимы