Создатели искусственного гения. О бунтарях, которые наделили интеллектом Google, Facebook и весь мир - Кейд Метц

совсем понимал, зачем они вообще собрались. Альтман собрал их вместе в надежде организовать новую лабораторию искусственного интеллекта, которая могла бы служить противовесом лабораториям, быстро расширяющимся внутри крупных интернет-компаний, но никто не знал, насколько это реалистично. Брокман после своего ухода из Stripe, одного из самых успешных стартапов, развивавшихся под опекой Y Combinator, был только «за». Он никогда не работал в области ИИ и только недавно купил компьютер с графическим процессором, чтобы обучить свою первую нейронную сеть, но, как он сказал Альтману за несколько недель до этого, был полон решимости присоединиться к новому движению. Маск тоже был «за» – после того как воочию увидел возможности технологий глубокого обучения в Google и DeepMind. Но никто толком не знал, как им войти в бизнес, где уже доминировали самые богатые компании Кремниевой долины. Не только Google и Facebook перетащили к себе лучших специалистов и платили им огромные деньги – к ним в последнее время примкнули также компании Baidu, которая начала энергичные разработки, когда заполучила Эндрю Ына в качестве руководителя по научным исследованиям, и Twitter, которая только что приобрела два заметных стартапа, занимавшихся глубоким обучением нейросетей. Альтман пригласил Суцкевера и нескольких других ученых-единомышленников в отель Rosewood, чтобы вместе изучить возможности, но они провели вечер, задавая друг другу вопросы, вместо того чтобы давать ответы. «Главный вопрос был такой: не слишком ли поздно пытаться создавать лабораторию с привлечением лучших специалистов? Возможно ли это? Никто не мог сказать, что это невозможно, – вспоминает Брокман. – Были люди, которые говорили: “Это действительно трудно. Нужно получить критическую массу. Нужно найти лучших людей. Как вы собираетесь это сделать? Это вопрос курицы и яйца”. Но я слышал только одно: это все-таки не невозможно».

Возвращаясь в тот вечер домой вместе с Альтманом, Брокман поклялся, что создаст новую лабораторию, которая, казалось, была нужна всем273. Для начала он обзвонил нескольких ведущих деятелей274 в этой области, включая Йошуа Бенжио, профессора Монреальского университета, который помогал развивать движение глубокого обучения вместе с Джеффом Хинтоном и Яном Лекуном. Бенжио ясно дал понять, что по-прежнему намерен заниматься наукой в своем вузе, но составил список перспективных молодых исследователей, и, когда Брокман связался с ними и многими другими, ему удалось заинтересовать некоторых из них – тех, кто хотя бы отчасти разделял тревоги Маска в отношении угроз искусственного интеллекта. Пятеро из них, включая Илью Суцкевера, недавно стажировались в DeepMind. Их привлекла идея лаборатории275, неподконтрольной крупным интернет-компаниям и, в отличие от них, совершенно свободной от стремления к прибыли. Они считали, что это лучший способ обеспечить безопасное развитие ИИ. «Мало кто из ученых задумывается о долгосрочных последствиях своей деятельности, – говорит Войцех Заремба, состоявший в числе исследователей, к которым обратился Брокман. – Я хочу, чтобы ученые серьезнее относились к возможности того, что искусственный интеллект, являясь невероятно увлекательной интеллектуальной головоломкой, может иметь серьезные негативные последствия для мира». Однако ни один из этих исследователей не был готов взяться за создание с нуля новой лаборатории – дескать, пусть это сделает кто-то другой, и тогда они подтянутся. Чтобы выйти из тупика276, Брокман пригласил десятерых лучших кандидатов провести осенний день на винодельне в долине Напа, к северу от Сан-Франциско. В группу входили, среди прочих, Суцкевер и Заремба277, перешедший в Facebook после стажировки в Google. Брокман нанял автобус, чтобы отвезти их из своей квартиры в Сан-Франциско в этот край виноделия, и эта поездка сама по себе, как он чувствовал, помогла укрепить их великую идею. «Многие недооценивают, как это сплачивает людей278, когда они вместе проводят время в ситуации, где нет никакой возможности ускорить достижение того, куда вы направляетесь, – говорит он. – Обстоятельства вынуждают вас общаться».

В долине Напа они обсуждали новую форму виртуального мира, своего рода виртуальный тренажер или игровую площадку, где интеллектуальные боты учились бы делать на персональном компьютере все то, что может делать человек. Это способствовало бы развитию методики обучения вроде той, которую использовала DeepMind, обучая нейронную сеть играть в Breakout, но в применении не только к видеоиграм, но и любым другим программным приложениям, от браузеров до Microsoft Word. Участники верили, что это путь к по-настоящему умным машинам. В конце концов, любой браузер открывает доступ ко всему интернету. И это доступ к любой машине и к любому человеку. Чтобы ориентироваться в этом мире, нужны были не только двигательные, но и языковые навыки. Это была задача, которая напрягла бы ресурсы даже крупнейших технологических компаний, но они решили справиться с ней без поддержки какой-либо коммерческой компании. Они хотели создать лабораторию, полностью свободную от корпоративного давления, некоммерческую, которая открыто делится всеми своими исследованиями, чтобы любой человек мог конкурировать со всеми гуглами и фейсбуками этого мира. В конце концов Брокман пригласил всех десятерых279 исследователей присоединиться к этой лаборатории и дал им три недели на размышление. Через три недели на борт поднялись девять человек280. Они назвали свою новую лабораторию OpenAI. «Думаю, это был нужный уровень радикализма, – говорит Суцкевер. – Мне нравится делать самые радикальные вещи. И это предприятие казалось самым радикальным из всего возможного».

Но, прежде чем они могли явить свою лабораторию остальному миру, такие исследователи, как Заремба и Суцкевер, должны были распрощаться с Facebook и Google281. Прежде чем пройти стажировку в Google Brain, а затем в лаборатории искусственного интеллекта Facebook, Заремба успел поработать и в DeepMind. После того как он согласился присоединиться к OpenAI, интернет-гиганты предложили ему «граничащие с безумием»282 – как он сам это назвал – суммы, чтобы побудить его передумать – в два или в три раза больше его «рыночной стоимости». И эти предложения были ничтожными по сравнению с цифрами, которые компания Google предложила Суцкеверу – многие миллионы долларов в год. Они оба отказались, но предложения со все нараставшими цифрами продолжали поступать – даже в тот момент, когда они летели в Монреаль на конференцию NIPS, где им предстояло объявить о создании новой лаборатории OpenAI. Конференция, которая когда-то привлекала внимание несколько сотен исследователей, теперь насчитывала почти четыре тысячи участников, которые заполняли собой лекционные залы, где выдающиеся мыслители выступали со своими выдающимися докладами, а представители бесчисленных компаний старались организовать дополнительные встречи в соседних комнатах, пытаясь переманить к себе лучших специалистов по высоким технологиям, какие только есть на планете. Все это напоминало старательский городок на Диком Западе во времена золотой лихорадки.

Приехав в Монреаль, Суцкевер встретился с Джеффом Дином, который сделал ему еще одно