Искусственный интеллект – надежды и опасения - Джон Брокман

функция популярности, но индивидуальное признание также связано с выяснением того, как эта идея воздействует на индивида (рефлексивное отношение). При объединении социальной выборки с личной оценкой получается превосходное решение. Это поистине удивительно, потому что теперь мы располагаем математическим «рецептом» для охвата людей всеми этими техниками ИИ, предназначенными для тупых компьютерных нейронов. У нас появляется способ собрать людей вместе для принятия наилучших решений на основании накапливаемого опыта.

Посмотрим, что происходит в реальном мире. Почему бы нам не поступать так постоянно? Что ж, люди в целом так себя и ведут, но порой что-то выходит из-под контроля. Например, возьмем рекламу, пропаганду и «поддельные новости» (фейки). Имеется множество способов навязать людям популярность, когда на самом деле ее нет и в помине, и это разрушает полезность социальной выборки. Навык «придания ума» человеческим группам, навык создания человеческого ИИ пригодится только при условии достоверной обратной связи. Вы должны твердо знать, достигли результата действия каждого человека или нет.

То же самое верно в отношении ИИ. Искусственный интеллект анализирует правильность своих действий. Если действия правильны, связь укрепляется; если нет – ликвидируется. Нам нужна достоверная обратная связь, чтобы человеческий механизм работал эффективно, и нужны надежные способы узнавать о действиях других людей, чтобы мы могли правильно оценивать популярность конкретных шагов и вероятность правильного выбора.

Следующим этапом будет прописывание функции передачи ответственности, функции обратной связи для человеческого общества, дабы мы могли создать эффективную человеко-искусственную экосистему – умную организацию и умную культуру. В некотором смысле нам необходимо дублировать ряд ранних идей, которые, например, легли в основу механизма переписи в США, чтобы выявить основные факты, не вызывающие отторжения ни у кого; передача знаний и культуры должна происходить таким образом, чтобы достоверная социальная выборка доказала свою эффективность.

Мы можем выстраивать функцию передачи ответственности в разнообразии условий. В компаниях, например, можно использовать цифровые именные бейджи, которые покажут, кто и с кем связан, благодаря чему удастся сопоставить схему связей с результатами компании в ежедневной или еженедельной перспективе. Функция передачи ответственности побуждает узнавать, помогают ли выявленные связи справляться с проблемами, изобретать новые решения, и усиливает полезные связи. Когда эту обратную связь получается выразить количественно – что непросто, поскольку очень и очень многое количественно не измерить, – тогда производительность и скорость внедрения инноваций в организации значительно улучшаются. Такова, скажем, основа метода «непрерывного совершенствования» в корпорации «Тойота»[152].

Следующий шаг заключается в попытках проделать то же самое с увеличением масштаба и создать, как я это называю, доверительную сеть данных. Ее можно рассматривать как распределенную систему, подобную интернету, но со способностью количественного измерения и оценки качества человеческого общества (та же перепись в США довольно подробно рассказывает о численности населения и ожидаемой продолжительности жизни). Опытные образцы доверительных сетей тестируются сегодня сразу в нескольких странах, и за основу взяты данные и методы, изложенные в программе устойчивого развития ООН.

На горизонте маячит ви́дение того, как мы можем сделать человечество более разумным, создав человеческий ИИ. Это ви́дение формируется двумя картинами. Первая образована данными, которым все доверяют, – это данные, проверенные широким сообществом, данные, алгоритмы комбинирования которых известны и отслеживаются, во многом подобные данным переписи (ведь на последние мы полагаемся автоматически, признавая за ними хотя бы приближенную достоверность). Вторая картина образуется посредством объективной оценки общественных норм, политики и деятельности правительства на основе достоверных данных о текущей ситуации. Эта вторая картина зависит от доступности доверенных данных и потому едва начала проявляться. Надежные данные и оценка норм, политик и деятельности правительства на основе данных вместе порождают функцию передачи ответственности, которая повышает приспосабливаемость и интеллект общества в целом.

Именно в момент возникновения такого общественного интеллекта оказываются досадной помехой «поддельные новости», пропаганда и реклама. К счастью, доверительные сети позволяют надеяться на построение общества, более устойчивого к социальному «эху», к этим вывертам человеческого общежития и упражнениям в безумии. Мы начали разрабатывать новый способ проведения социальных измерений, рассчитывая избавиться от ряда заболеваний, свойственных современному обществу. Мы используем открытые данные из всех источников, тем самым поощряя честное описание человеческих предпочтений в рамках курируемой математической структуры, которая поможет подавить «эхо» и воспрепятствовать дальнейшим попыткам манипулирования.

О поляризации и неравенстве

Экстремальная поляризация и сегрегация по доходам сегодня распространились практически повсеместно и угрожают отчуждением правительств от гражданского общества. Средства массовой информации все чаще впрыскивают, так сказать, адреналин в погоне за отдачей от рекламы и утрачивают способность беспристрастно излагать факты и аргументированно их обсуждать, а очевидная деградация масс-медиа побуждает людей терять ориентиры. Мы больше не знаем, чему верить, и потому нами легко манипулировать. Налицо реальная потребность обосновать наши разнообразные культуры надежными, основанными на данных стандартами, с которыми мы все согласны, и умение выяснять, какие методы поведения и какие политики эффективны, а какие – нет.

При переходе к цифровому обществу обесцениваются традиционные представления об истине и справедливости. Ранее считалось, что справедливость преимущественно неформальна и нормативна. Мы ее благополучно формализовали – и одновременно сделали недоступной для большинства людей. Наши правовые системы подводят нас, как и раньше, именно потому, что ныне они более формальные, более цифровые и менее встроенные в общество.

Представления о справедливости сильно разнятся по всему миру. В частности, ключевое отличие таково: можете ли вы или ваши родители вспомнить, как пришли плохие ребята с оружием в руках и забрали все, что у вас было? Если да, значит, ваше отношение к справедливости отличается от отношения «типичного» читателя этого очерка. Вы принадлежите к социальной верхушке? Или к тем, кто видит канализацию изнутри? Взгляд на справедливость крайне зависит от личной истории.

Я составил общий тест для граждан США, которых спрашиваю, знаком ли им какой-нибудь владелец пикапа? Это самая продаваемая модель автомобиля в Соединенных Штатах Америки, и если вы не знакомы хотя бы с одним владельцем такой машины, то у вас нет связей минимум с 50 процентами американцев. Физическая сегрегация влечет за собой концептуальную. Бо́льшая часть населения Америки воспринимают справедливость, равный доступ и честность совершенно иначе, нежели, скажем, типичный обитатель Манхэттена.

Если изучить модели мобильности – маршруты перемещений – в типичном городе, выяснится, что люди верхнего квинтиля (семьи белых воротничков) и нижнего квинтиля (безработные или получающие социальное пособие) почти никогда не общаются друг с другом. Они не посещают одни и те же места, не обсуждают одно и то же. Номинально они все живут в одном и том же городе, но это как бы два совершенно разных города – вот, пожалуй, важнейшая причина сегодняшней «чумы поляризации».

О чрезмерном богатстве

Около двухсот богатейших людей мира