Создатели искусственного гения. О бунтарях, которые наделили интеллектом Google, Facebook и весь мир - Кейд Метц

только речь заходит об ИИ и использовании исходных данных. Я не знаю, что произойдет, если СМИ подхватят тему о том, что Google создает оружие или технологии ИИ для оборонной промышленности. Мы в Google Cloud в 2017 году уже подняли тему демократизации ИИ. Мы с Дианой говорили о внедрении философии «гуманистического ИИ» на нашем предприятии. И чтобы сохранить этот позитивный имидж, нам нужно быть очень осторожными.

В итоге компания Google решила не анонсировать свое участие в проекте Maven и попросила министерство обороны воздержаться от комментариев. Даже сотрудникам компании пришлось узнавать об этом самостоятельно.

* * *

Проезжая по шоссе 101 – восьмиполосной магистрали, рассекающей Кремниевую долину через самое сердце, – невозможно не обратить внимание на «Ангар 1», одно из самых больших отдельно стоящих зданий на Земле. Построенный в 1930-е годы для размещения дирижаблей ВМС США, этот гигантский стальной ангар высотой около шестидесяти метров занимает более трех гектаров земли и вмещает шесть футбольных полей. Он находится на территории военного аэродрома Моффет, расположенного между городами Маунтин-Вью и Саннивейл. Этот аэродром, построенный почти сто лет назад, принадлежит НАСА, и сейчас там располагается научно-исследовательский центр космического агентства, но большую часть бывшей авиабазы арендует Google. Компания использует старые стальные ангары для испытаний воздушных шаров, которые могли бы в один прекрасный день обеспечить доступ в интернет с неба, а взлетно-посадочные полосы вот уже много лет ее руководители, включая Ларри Пейджа, Сергея Брина и Эрика Шмидта, используют для полетов на своих частных самолетах.

Новая штаб-квартира подразделения Google Cloud расположилась на южной окраине аэродрома Моффет: три здания окружают поросший травой двор, заставленный пластиковыми столами и стульями, где «гуглеры» каждый день обедают. В одном из зданий разместилась «лаборатория передовых решений», где компания разрабатывает индивидуальные технологии под заказ для своих крупнейших клиентов. В этом самом здании 17 и 18 октября представители компании встретились с заместителем министра обороны Патриком Шанаханом и его помощниками, чтобы обсудить роль Google в проекте Maven. Как и многие другие высокопоставленные чины министерства обороны, Шанахан рассматривал этот проект лишь как первый шаг к чему-то большему. В какой-то момент он сказал: «Отныне в нашем департаменте никакие перспективные инновации не принимаются, если в них не предусмотрена возможность использования искусственного интеллекта». По крайней мере, «гуглерам», которые добились этого контракта, казалось, что их компания и дальше будет важнейшей частью этого долгосрочного плана.

Но сначала Google пришлось создать программное обеспечение для так называемой системы «воздушного зазора». Речь идет о компьютере (или сети компьютеров), который в некотором смысле окружен воздушной прослойкой, то есть не подключен ни к какой другой сети. Ввести данные в такую систему можно лишь через какое-то физическое устройство, например с помощью флешки. Предполагалось, что военные будут загружать в эту систему съемки с беспилотников, а Google нужно придумать способ получать доступ к этим данным, чтобы подавать их в нейронную сеть. Это означало, что специалисты Google не только не смогут контролировать систему, но даже не будут толком знать, как она используется. В ноябре команде из девяти инженеров Google было поручено создать программное обеспечение для этой системы, но они так и не сделали этого. Они быстро поняли, что к чему, и отказались участвовать.

После Нового года, когда слухи о проекте начали распространяться по всей компании, стали высказываться опасения, что Google помогает Пентагону наносить удары беспилотниками. В феврале те самые девять инженеров рассказали свою историю во внутренней соцсети Google+. Многие из коллег поддержали их позицию и окрестили этих инженеров «Бандой девяти». В последний день месяца Мередит Уиттакер, менеджер по продуктам в группе облачных технологий – которая ранее основала при Нью-Йоркском университете Институт AI Now («ИИ сейчас»), ставший одной из самых известных организаций, занимающихся вопросами этики ИИ, – опубликовала петицию. Она потребовала, чтобы Пичай расторг контракт с военными по проекту Maven. «Компания Google, – говорилось в петиции, – не должна заниматься военными делами».

На следующий день руководители Google выступили с обращением к сотрудникам, в котором заявили, что сумма контракта по проекту Maven составляет всего лишь 9 миллионов долларов и что Google создает технологии исключительно для «ненаступательных» целей. Но волнения не утихали. В первый день петицию Уиттакер подписали пятьсот человек511. На следующий день – еще тысяча. В первых числах апреля, когда число подписантов превысило три тысячи, газета New York Times рассказала о происходящем512, а несколько дней спустя руководитель группы облачных технологий пригласил Уиттакер присоединиться к обсуждению контракта Maven за круглым столом на очередном пятничном собрании. Она и еще два «гуглера» – оба сторонники проекта Maven – обсуждали эту тему трижды, чтобы их разговор можно было транслировать в прямом эфире в трех разных часовых поясах по всему земному шару.

В Лондоне петицию Уиттакер подписали более половины сотрудников DeepMind, причем особенно заметную роль в протесте сыграл Мустафа Сулейман. Контракт Google по проекту Maven шел вразрез с его фундаментальными убеждениями. Он рассматривал протесты внутри Google как свидетельство того, что европейские ценности постепенно распространяются и на США, заставляя менять курс даже крупнейшие технологические компании. Ранее на волне возмущений в Европе был принят «Общий регламент по защите персональных данных» (GDPR), закон, принуждающий эти компании уважать конфиденциальность личной информации. Теперь же буря внутри Google заставила компанию пересмотреть свой подход к сотрудничеству с военными. На фоне обострения ситуации Сулейман призвал генерального директора Пичая и главного юрисконсульта Кента Уокера доработать этические принципы, которые официально закрепили бы, чем Google может заниматься, а чем нет.

* * *

В середине мая группа независимых ученых обратилась с открытым письмом513 к Ларри Пейджу, Сундару Пичаю, Фэй-Фэй Ли и руководству облачного бизнеса Google. «Как ученые, преподаватели и исследователи514, которые изучают, преподают и развивают информационные технологии, мы выражаем свою солидарность с более чем 3100 сотрудниками Google, к которым присоединились другие работники IT-отрасли, выступающие против участия Google в проекте Maven, – говорится в письме. – Мы всем сердцем поддерживаем их требование о том, чтобы Google расторгла свой контракт с министерством обороны и чтобы Google и ее материнская компания Alphabet обязались не разрабатывать военные технологии и не использовать в военных целях персональные данные, которые они собирают». Это письмо подписали более тысячи ученых515, в том числе Йошуа Бенжио и несколько коллег Ли по Стэнфорду.

Ли оказалась между молотом и наковальней: руководители компании, в которой она работала, хотели одного, а коллеги из научных кругов требовали другого. Затруднительное положение, в которое она попала, свидетельствовало о постепенном усилении противоречий между