Создатели искусственного гения. О бунтарях, которые наделили интеллектом Google, Facebook и весь мир - Кейд Метц

неприличных публикациях534, сотрудники компании рассматривали жалобы и решали вопрос об их удалении. За прошедшие десятилетия подразделение, которое занимается этим в компании, разрослось неимоверно535. Сейчас этой социальной сетью пользуются более 2 миллиардов человек, и проверкой контента, на который поступают жалобы, занимаются более двадцати тысяч сотрудников. Но использование искусственного интеллекта там, где это возможно, позволит облегчить ситуацию536.

В то время как Ян Гудфеллоу и некоторые другие исследователи видели в технологии глубокого обучения потенциальную опасность усиления проблемы фальшивых новостей, Цукерберг видел в этом возможное решение проблемы. Системы искусственного интеллекта, сказал он сенатору Туну, уже способны идентифицировать пропаганду со стороны террористов с почти идеальной точностью. «Пока мы здесь с вами сидим, 99 процентов контента537, поступающего на страницы Facebook со стороны ИГИЛ и Аль-Каиды, наши системы ИИ успевают блокировать, прежде чем она попадет кому-либо на глаза», – сказал он. Он признал, что другие виды токсичного контента труднее идентифицировать, включая пропаганду ненависти. Но он выразил уверенность, что ИИ все-таки сможет решить эту проблему538. Через пять-десять лет, по его словам, ИИ научится даже распознавать нюансы языка ненависти539. Однако при этом он умолчал о том, что даже люди пока не могут договориться о том, что считать и что не считать пропагандой ненависти.

* * *

Двумя годами ранее, летом 2016 года, после победы AlphaGo над Ли Седолем, но еще до того, как Дональд Трамп одержал победу над Хиллари Клинтон, Цукерберг сидел за большим конфренц-столом в Корпусе 20, недавно построенном в кампусе компании в Менло-Парке. Спроектированное Фрэнком Гери, это длинное приземистое здание на стальных сваях имеет площадь более сорока тысяч квадратных метров. На крыше собственный «Центральный парк»: три с половиной гектара травы, деревьев и гравийных дорожек, где «фейсбукеры» могут посидеть или прогуляться, когда им заблагорассудится. Внутри одно огромное открытое пространство, заполненное столами, стульями и ноутбуками и вмещающее более двух тысяч восьмисот сотрудников. Если стать в нужном месте, то можно увидеть все помещение от одного края до другого.

Цукерберг проводил совещание, посвященное итогам работы компании за полугодие. Руководители каждого подразделения входили в зал, где он сидел, отчитывались за первые шесть месяцев года, а затем уходили. Когда подошла очередь группы, отвечающей за разработки ИИ, вместе с техническим директором Майком Шрепфером и другими сотрудниками в зал зашел Ян Лекун. Он подробно описал работу своего подразделения, связанную с распознаванием изображений, машинным переводом и пониманием естественного языка. Цукерберг слушал молча. Шрепфер тоже. Затем, когда презентация закончилась, группа покинула комнату, Шрепфер накинулся на Лекуна, заявив, что все сказанное им ничего не значит. «Нам нужно что-то, что показало бы, что мы в чем-то опережаем другие компании, – сказал он Лекуну. – Мне все равно, как вы это сделаете. Нам просто нужно в чем-то обойти конкурентов. Просто начните соревнование, в котором мы точно сможем победить».

«Видео. Мы могли бы победить в распознавании видео», – сказал кто-то из коллег, стоявших за спиной Лекуна.

«Ну вот видите?! – рявкнул Шрепфер на Лекуна. – Можно же чему-то научиться!»

Для Facebook лаборатория искусственного интеллекта была одной из возможностей попиариться. Цукерберг хотел, чтобы мир увидел в Facebook новатора, не уступающего Google. Это помогло компании привлечь лучшие кадры. И в то время, когда над Кремниевой долиной навис призрак антимонопольных разбирательств, это послужило бы доводом против дробления компании на куски – во всяком случае, так полагали многие. Идея заключалась в том, чтобы показать антимонопольным регуляторам, что Facebook – не просто социальная сеть, что это нечто большее, чем просто связующее звено между людьми, что это компания, создающая новые технологии, жизненно важные для будущего человечества. Именно поэтому Шрепфер объявил журналистам, что Facebook создает искусственный интеллект, который сможет овладеть премудростями игры го, и что грандиозные идеи, стоящие за этим проектом, повлияют на все, чем занимается компания. И поэтому несколько недель спустя Цукерберг попытался упредить успех DeepMind в игре го. Руководители Facebook были полны решимости показать, что компания является лидером в области ИИ. Но Лекун, глава лаборатории Facebook, был не из тех, кто гоняется за сенсациями и громкими успехами. Он не был Демисом Хассабисом или Илоном Маском. Проработав в этой области несколько десятилетий, он смотрел на разработки ИИ как на не терпящие суеты долговременные исследования.

Грандиозные идеи, о которых Шрепфер сообщил журналистам, были действительно очень важны для будущего компании. Но будущее оказалось не таким блестящим, идеи оказались не такими грандиозными, и влияние их на компанию оказалось не таким, как он себе это представлял.

Пригласив десятки лучших разработчиков в лабораторию искусственного интеллекта Facebook, занимавшую офисы в Нью-Йорке и Кремниевой долине, Шрепфер создал вторую организацию, которой должна была внедрять разрабатываемые лабораторией технологии на практике – «группу прикладного машинного обучения». Поначалу она привнесла в крупнейшую в мире социальную сеть такие новшества, как распознавание лиц, автоматический перевод и автоматическое создание подписей к изображениям. Но затем миссия группы начала меняться.

В конце 2015 года, когда исламские боевики убили сто тридцать человек и ранили почти пятьсот, проведя скоординированные теракты в Париже и его окрестностях, Марк Цукерберг отправил в группу запрос о том, что они могли бы сделать для борьбы с терроризмом в самой социальной сети. В течение следующих нескольких месяцев они проанализировали тысячи размещенных на страницах Facebook записей, связанных с такими организациями, как «Исламское государство» и «Аль-Каида» и нарушающих правила пользования сетью, и придумали систему, которая может самостоятельно, автоматически помечать террористическую пропаганду. Затем модераторы анализируют то, что система пометила и окончательно решают, следует ли его удалять. Именно на эту технологию указывал Цукерберг, когда говорил сенаторам, что искусственный интеллект Facebook может автоматически идентифицировать 99 процентов всей террористической пропаганды. Однако компания не обнародовала этот инструмент, когда он был развернут, потому что некоторые руководители, включая операционного директора Шерил Сандберг, опасались, что идея ИИ, отслеживающего террористическую угрозу, будет вызывать слишком много кривотолков на фоне дискуссии о разрушительном сверхразуме, поднятой Илоном Маском.

Другие специалисты, однако, весьма скептически относились к этим планам, понимая, насколько сложной и полной нюансов может быть такая технология. В ноябре 2016 года, когда Цукерберг все еще отрицал роль Facebook в распространении фейков, Дин Померло бросил перчатку. Через тридцать лет после создания при помощи нейронных сетей беспилотного автомобиля в Университете Карнеги – Меллона, он объявил Fake News Challenge540, как он его назвал в своем твите, поставив 1000 долларов541 на то, что никто не сможет создать автоматизированную систему, способную отличать реальность от фейка. «Я вызываю каждого и