Конец индивидуума. Путешествие философа в страну искусственного интеллекта - Гаспар Кёниг

вещи. Археология гуманитарных наук / пер. с фр. В. П. Визгина, Н. С. Автономовой. СПб., 1994.

102

На сервисе Deezer можно найти три сочинения для фортепьяно под красноречивым названием «Bach by Design», а также оригинальные концерты.

103

Cope D. The Algorithmic Composer. AR Editions, Inc., 2000.

104

Edwards M. Algorithmic Composition: Computational Thinking In Music // Communications of the ACM. 2011. Vol. 54. № 7; очень популярной среди музыкантов в XVIII веке была игра Würfelspiel, своего рода «автоматическое письмо» до того, как оно стало так называться. Композиторы бросали кости и записывали ноты в зависимости от результата.

105

Работа «Edmond de Belamy» коллектива Obvious была получена нейронной сетью, которой скормили 15 тысяч портретов. Как мы уже отмечали в первой главе, такому произведению трудно добраться до «понятия портрета», оно представляет собой малоубедительный размытый эскиз.

106

Evans R. et al. De Novo Structure Prediction With Deep-learning Based Scoring // CASP 13. 2018.

107

Так, мы никогда не можем быть на 100 % уверены в том, что «завтра солнце встанет». Скорее, поскольку оно встает каждый день с тех пор, как человек вообще проводит такие наблюдения, мы можем выводить из этого физические законы.

108

См., например: Calude C.S., Longo G. The Deluge of Spurious Correlations in Big Data // Foundations of Science. 2017. Vol. 22. № 3.

109

Stensbo-Smidt K. et al. Sacrificing Information for the Greater Good: How to Select Photometric Bands for Optimal Accuracy // Monthly Notices of the Royal Astronomical Society. 2016. Vol. 464. № 3.

110

См.: Ma M., Fang F., Parkes D. Spatio-Temporal Pricing for Ridesharing Platforms // TSMO’18. 2018. Feb Эти исследователи доказывают экономическое преимущество dispatch в сравнении со стимулами. Подобный способ оптимизации благосостояния каждого работает в случае гипотезы наличия полной информации.

111

См.: Хайек Ф. Право, законодательство и свобода. М.: ИРИСЭН, 2006.

112

Хайек Ф. Дорога к рабству. М.: Новое издательство, 2005.

113

Хайек развивает это рассуждение в статье «The Use of Knowledge in Society», написанной в 1949 году для American Economic Review.

114

Berman D.H., Hafner C.D. The Potential of Artificial Intelligence to Help Solve the Crisis in Our Legal System // Communications of the ACM. 1989. Vol. 32. № 8.

115

Dressel J., Farid H. The Accuracy, Fairness, and Limits of Predicting Recidivism // Science Advances. 2018. Vol. 4. № 1.

116

Или «подотчетности, ответственности и прозрачности» (Accountability, Responsibility and Transparency, ART). См., например: Dignum V. Responsible Artificial Intelligence: Designing AI for Human Values // ITU Journal: ICT Discoveries. 2017. Special Issue № 1. Sept 25.

117

Danziger S., Levav J., Avnaim-Pesso L. Extraneous Factors in Judicial Decisions // Proceedings of the National Academy of Sciences. 2011. Vol. 108. № 17.

118

См.: Беккария Ч. О преступлениях и наказаниях. М.: изд-во НКЮ СССР, 1939, – особенно главу IV «Толкование законов»: «Власть толковать уголовные законы не может принадлежать судьям по одному тому, что они не законодатели».

119

Оригинальное выражение – «loss of agency»; это труднопереводимое словосочетание можно передать как «утрата возможности действия».

120

К сожалению, несмотря на мои многочисленные заходы и наличие человека, который был готов со мной поговорить, отдел коммуникаций LAPD запретил любые интервью. Поэтому я вынужден довольствоваться встречей с их противниками, как мы увидим в главе 6.

121

См., например: Vladeck D. Machine Without Principals: Liability Rules and Artificial Intelligence // Washington Law Review. 2014. Vol. 89. № 1.

122

Эта гипотеза обосновывает не только европейское, но и американское право, что иллюстрируется решением Верховного суда от 1952 года по делу «Мориссет против США»: «[Личное намерение] является таким же всеобщим и неизбывным принципом зрелых систем права, как и вера в свободу человеческой воли вместе с соответствующей способностью и долгом нормального индивида совершать выбор между добром и злом».

123

Точную типологию различных типов алгоритмических предубеждений см. в работе: Danks D., John A. Algorithmic Bias in Autonomous Systems. London, 2017.

124

«Клятва Холбертон – Тьюринга», этическая хартия, созданная двумя специалистами по информатике, начинается со следующих слов: «Я буду уважать всех людей, их автономию и волю, безо всякой дискриминации по возрасту, физическому состоянию, политическим взглядам, религиозной вере, социальному и этническому происхождению или сексуальной ориентации».

125

Афроамериканская исследовательница Джой Буоламвини стала жертвой этой ошибки. Она показала, что робот узнавал ее лучше, когда она носила белую маску. См.: Buolamwini J., Gebru T. Gender Shades: Intersectional Accuracy Disparities in Commercial Gender Classification // Conference on Fairness, Accountability and Transparency. 2018.

126

He H., Garcia E.A. Learning From Imbalanced Data // IEEE Transactions on Knowledge & Data Engineering. 2008. № 9. Авторы статьи подытоживают различные методы, позволяющие получать значимые результаты для недостаточно представленных в выборке групп.

127

Tan G., Porzecanski K. Wall Street Rule for the #MeToo Era: Avoid Women at All Cost // Bloomberg. 2018. 3 December. Эта статья показывает негативное влияние движения #MeToo на карьерное продвижение женщин.

128

Society for Human Ressource Management 2018. «Harassment Free Workplace Series: The Executive View Topline Report». Опрошенные мужчины объясняют, что избегают «говорить с женщинами», а также «оставаться в закрытом пространстве с женщинами» или «на расстоянии меньше одного метра от женщины».

129

В теоретическом плане это изменение отражает переход от европейской концепции ИИ (ее отстаивало, в частности, общество Макса Планка), согласно которой алгоритм должен моделироваться по нашему собственному поведению, чтобы воспроизвести определенную форму естественной эволюции, к рассуждению, больше связанному с американской школой (такой как Гарвардская бизнес-школа), которая требует, чтобы ИИ внедрял в наши решения определенную форму рациональности. Это различие мне подсказала исследовательница Юлия Пуашундер.

130

В частности, подробно обсуждались доходы, приносимые королевскими мануфактурами.

131

Fletcher T. The Naked Diplomat: Understanding Power and Politics in the Digital Age. William