Создатели искусственного гения. О бунтарях, которые наделили интеллектом Google, Facebook и весь мир - Кейд Метц

этими двумя мирами, миром бизнеса и миром науки. Технология, над которой ученые трудились несколько десятилетий, теперь стала основой бизнеса для крупнейших и самых могущественных компаний мира. А это означало, что одной из важнейших движущих сил в ее развитии становилась жажда прибыли. Многие так сильно переживали по этому поводу, что даже стали упрекать Хинтона за то, что он недостаточно громко и внятно озвучивал свою позицию. «Я перестал его уважать, – заявил Джек Поулсон, бывший профессор Стэнфордского университета, работавший в отделении Google в Торонто, несколькими этажами ниже Хинтона. – Он так и не высказался». Но негласно Хинтон лично убеждал Сергея Брина расторгнуть контракт.

После публикации открытого письма и угроз в свой адрес в китайских социальных сетях Фэй-Фэй Ли стала говорить, что боится за свою безопасность, настаивая на том, что участие компании в проекте Maven не ее вина. «Я не участвовала в принятии решений и не имею отношения ни к подаче заявки на участие, ни к заключению контракта», – заявила она впоследствии, а в отношении своего письма об Илоне Маске и угрозе Третьей мировой войны сказала только, что «мое предостережение, адресованное сотрудникам отдела продаж, было правильным». 30 мая на первой полосе New York Times вышла статья516, посвященная дебатам, которые побудили ее написать то самое письмо, и эта публикация лишь подогрела протесты внутри компании. Через несколько дней руководство Google объявило сотрудникам, что не станет продлевать контракт с военными.

История с Google была лишь одним из проявлений более масштабной кампании против военных контрактов. Сотрудники Clarifai также были недовольны своей работой над проектом Maven. Один инженер покинул проект сразу после визита трех офицеров в форме, еще несколько человек покинули компанию в последующие недели и месяцы. В Microsoft и Amazon сотрудники протестовали против контрактов с вооруженными силами и правоохранительными органами517. Но там эти протесты были не столь эффективны. И даже в Google волна протестов постепенно спала. Компания рассталась с большинством тех, кто выступал против участия в проекте Maven, включая Мередит Уиттакер и Джека Поулсона. Фэй-Фэй Ли вернулась в Стэнфорд. Хотя Google решила не продлевать контракт, она продолжала продвигаться в том же направлении. Год спустя Кент Уокер выступил в Вашингтоне518 на мероприятии с участием генерала Шанахана и заявил, что история с проектом Maven не отражает более широких целей компании. «Это решение касается отдельного контракта, – сказал он. – Оно не касается нашей готовности продолжать сотрудничество с министерством обороны, как и истории наших взаимоотношений».

Глава 17

Бессилие. «В России есть люди, чья работа как раз и заключается в том, чтобы использовать наши системы в своих интересах. Но это же гонка вооружений, верно?»

Марк Цукерберг каждый день одевается на работу одинаково: голубовато-серая хлопчатобумажная майка и синие джинсы. Он считает, что такое равнодушие к одежде оставляет ему больше энергии для руководства Facebook, которую он любил называть «сообществом», а не компанией или социальной сетью. «Я действительно хочу очистить свою жизнь от излишеств519, сделать ее такой, чтобы мне приходилось как можно меньше думать о чем-либо, кроме как о том, чтобы еще лучше служить этому сообществу, – сказал он однажды. – На самом деле существует целые психологические теории о том, что необходимость принимать даже самые простые решения – что надеть, что съесть на завтрак или что-то в этом роде – утомляет и отнимает энергию». Но когда он давал показания перед Конгрессом в апреле 2018 года520, на нем был темно-синий костюм и синий же – цвета Facebook – галстук. Некоторые называли его костюм «Прошу прощения»521. Другие говорили, что его стрижка с очень короткой челкой делала его похожим на кающегося монаха522.

Месяцем ранее газеты США и Великобритании сообщили, что британский стартап Cambridge Analytica523 собрал личную информацию из профилей более чем 50 миллионов пользователей Facebook, чтобы использовать эти данные для целевого воздействия на избирателей в интересах кампании Трампа в преддверии выборов 2016 года. Это открытие вызвало целую лавину упреков и обвинений со стороны средств массовой информации, общественных защитников и законодателей, накрывшую Цукерберга и Facebook, которым и без того хватало критики за предыдущие несколько месяцев. Вызванный на Капитолийский холм, Цукерберг давал показания десять часов в течение двух дней524. Он ответил на более чем шестьсот вопросов525, заданных почти ста законодателями и касавшихся как новых, так и старых тем, включая историю с Cambridge Analytica, российское вмешательство в выборы, а также фейковые новости и пропаганду ненависти, которые часто распространяются через Facebook, провоцируя насилие в таких местах, как Мьянма и Шри-Ланка. Цукерберг извинялся снова и снова, хотя не всегда выглядел виноватым. Как наедине, так и на публике Цукерберг вел себя почти как робот, непривычно часто моргая глазами и время от времени издавая бессознательный щелкающий звук в горле, который мог казаться каким-то сбоем в работе машины.

В первый же день выступления Цукерберга перед Сенатом сенатор-республиканец от штата Южная Дакота Джон Тун поставил под сомнение искренность и эффективность извинений Цукерберга526, сказав, что основатель Facebook публично извиняется вот уже четырнадцать лет, совершая одну серьезную ошибку за другой. Цукерберг признал справедливость критики, но сказал, что теперь компания Facebook понимает527, что она должна работать по-новому, что она должна не просто предоставлять людям возможность обмениваться информацией в интернете, но и активно контролировать этот обмен. «Думаю, весь этот ворох новых проблем528 – речь не только о соблюдении конфиденциальности данных, но также о фейках и иностранном вмешательстве в выборы – научил нас тому, что нам нужно брать на себя больше инициативы и больше ответственности, – сказал он. – Мало просто создавать инструменты. Мы должны быть уверены, что они используются во благо». Тун сказал, что он рад529, что Цукерберг осознал это. Но он хочет знать, как конкретно Facebook будет решать эту невероятно трудную проблему530. Например, борьба с пропагандой ненависти531 может казаться несложной задачей, но это не так. С лингвистической точки зрения этому очень трудно дать четкое определение, и иногда грань между допустимым и недопустимым может быть очень тонкая и расплывчатая, поскольку может по-разному проявляться в разных культурах и странах.

В ответ Цукерберг вспомнил ранние дни существования Facebook532, изложив некоторые из заранее заготовленных тезисов. Когда он создавал Facebook в 2004 году533 и его офисом была комната в общежитии, сказал он, люди могли делиться в этой социальной сети всем, чем хотели. А если кто-то сигнализировал о неуместных или