Radical Uncertainty: Decision-Making Beyond the Numbers Kindle Edition - John Kay

которой компьютер может черпать информацию: все когда-либо записанные партии в шахматы и го, масса данных о ценах на рынке ценных бумаг, тысячи уже сделанных снимков, для которых известен конечный результат.

Искусственный интеллект (ИИ) включает в себя компьютеры, которые могут учиться на собственном опыте. Это средство, с помощью которого, по мнению многих, все тайны в конце концов превратятся в разрешимые головоломки. Компания DeepMind, занимающаяся разработкой искусственного интеллекта, создала программу, которая обыграла действующих чемпионов по игре Го - игре, в которой потенциальных комбинаций позиций на доске больше, чем атомов во Вселенной. Это произошло благодаря тому, что компьютер создал огромную базу данных игр, построенных путем игры против самого себя. Компьютеру DeepMind не требовался доступ к каким-либо историческим данным. Но это стало возможным только потому, что игра Го - это задача, которая, несмотря на свою огромную сложность, всесторонне и точно определена своими правилами. Компьютер DeepMind, научивший себя играть в Го, имел доступ к правилам Го и знал, в конце каждой из многих тысяч партий, которые он сыграл сам с собой, какая сторона победила. Все успехи искусственного интеллекта на сегодняшний день основаны на способности компьютера обучаться таким образом, а скорость вычислений означает, что компьютер может очень быстро сыграть больше партий в шахматы или го, чем человек за всю жизнь.

Проблема, с которой столкнулся президент Обама, была совершенно иной. Информация, к которой он имел доступ, была неизбежно ограниченной. Последствия его решения зависели от множества известных и неизвестных фактов, и было мало оснований для того, чтобы придать им вероятностный характер. Ни один свод правил не регулировал реакцию людей в комплексе, кем бы они ни были, или пакистанского правительства или военных. Ситуация была уникальной, и президент не мог обучить себя, принимая это решение тысячи раз и видя результат. В лучшем случае, он мог бы использовать свободные аналогии с ситуациями, с которыми сталкивался он и другие политические лидеры. Но любая историческая аналогия была бы натянутой. Энтони Иден, который вышел из состава кабинета Чемберлена в 1938 году, потерял пост премьер-министра в 1957 году после того, как провел ошибочную аналогию между Гитлером и Насером и начал неудачное вторжение в Суэц. Обама, по крайней мере, имел возможность узнать, каковы были ближайшие последствия его решения, чего часто не бывает при принятии важных политических или деловых решений. Но его проблема заключалась не в вычислениях. Мы не думаем, что это просто провал нашего воображения, когда говорим, что нам трудно понять, что на самом деле начал бы делать компьютер, исполняющий обязанности президента Соединенных Штатов в этой ситуации.

И даже компьютеры, играющие в шахматы и го, не запрограммированы на оптимизацию. Как и предполагал Герберт Саймон в 1950-х годах (когда он сильно недооценил время, которое потребуется для создания машины, способной победить гроссмейстера), эти машины удовлетворяют. Они находят не лучший ход, а ход, который достаточно хорош. В принципе, существует "лучший" способ игры в шахматы - идеальная игра, в которой ни один ход белых или черных не может быть улучшен. Это было бы "решением" шахматной игры (которое экономисты в характерном стиле называют суб-игровым совершенным равновесием Нэша). Но у нас нет и, возможно, никогда не будет достаточно мощных компьютеров, чтобы найти такую игру. Если ни Магнус Карлсен (чемпион мира 2019 года), ни Deep Blue не могут сыграть идеальную партию в шахматы, то предположение о том, что обычные люди и предприятия могут оптимизировать игру в экономической жизни, поражает воображение.

Канеман утверждает, что для понимания человеческого поведения шум - случайность - даже более важен, чем "предубеждения". Он с нетерпением ждет того дня, когда искусственный интеллект устранит нашу природную глупость: "очень трудно представить, что при наличии достаточного количества данных останутся вещи, которые могут делать только люди". В результате он считает, что было бы неплохо "заменить человека алгоритмами везде, где это возможно". Таким образом, можно избежать предвзятости и шума, которые якобы представляют собой систематические и случайные отклонения человека от аксиоматически рационального поведения.

Но математические рассуждения применимы только к маленькому миру, а не к большому миру, в котором мы живем, и неясно, как компьютер узнает, что является "рациональным" в этом мире. Компьютеры могут выполнять многие задачи быстрее и надежнее, чем люди, и мы должны использовать их для этих задач. Но компьютер не смог бы решить проблемы, с которыми столкнулись Наполеон и Обама, и дал бы неверный ответ на проблему Виниара. Слишком долго недооценивали и недокармливали тот тип интеллекта, который необходим, чтобы справиться с миром радикальной неопределенности. Концепции предвзятости и шума, на которых основывается большая часть поведенческой экономики, если принять их за общую теорию, несовместимы с радикальной неопределенностью, эволюцией и коллективным характером принятия решений человеком.

В мире радикальной неопределенности невозможно избежать суждений. Помните старую пословицу: делайте только то, что можете сделать только вы. Мы должны применить это к человеческим рассуждениям в мире радикальной неопределенности. Нам не нужно бояться компьютеров, мы должны их использовать. Для этого необходимо суждение. Хорошее суждение не может быть сведено к двенадцати правилам жизни, семи привычкам эффективных людей или даже к двадцати одному уроку для XXI века.

Человеческий интеллект и искусственный интеллект - разные вещи, и последний скорее улучшает, чем заменяет первый. Ни один компьютер еще даже близко не подошел к тому, чтобы написать стихотворение или роман, который кто-то захотел бы прочитать. Портрет Эдмона де Белами , созданный компьютером и проданный на аукционе Christie's в 2018 году за $432 500, достиг такой цены благодаря своей любознательности; он не является ни хорошим, ни оригинальным. Даже компьютерный языковой перевод не в состоянии полностью сохранить смысл оригинала, не говоря уже о его стиле, потому что компьютеры не "понимают" контекст, к которому относится текст. Наши действия отражают как контекст, в котором мы действуем, так и наши общие повествования об этом контексте. Именно из-за отсутствия этого контекста компьютеры не способны вести переговоры с китайскими дипломатами или разрабатывать стратегию победы над террористическим повстанческим движением. Именно поэтому "сингулярность" - время, когда искусственный интеллект вытеснит продукт естественной, культурной и социальной эволюции человека - не более чем далекая несбыточная мечта. Искусственный интеллект открывает перспективы все более быстрого решения сложных головоломок, но он не решит загадок.

Силы, создавшие Вселенную, наделили нас способностями, которые наиболее легко и быстро приобретают решающее значение в нашей жизни, включая способность справляться с непредвиденными и уникальными событиями. Если бы способность быстро производить очень обширные вычисления была