Создатели искусственного гения. О бунтарях, которые наделили интеллектом Google, Facebook и весь мир - Кейд Метц

предложение, отчаянно пытаясь удержать его в Google. Это было предложение, от которого трудно отказаться. Google предложила в два или три раза больше, чем ему пообещали платить в OpenAI (почти 2 миллиона долларов за первый год283). Маску, Альтману и Брокману не оставалось ничего другого, как отложить объявление в ожидании решения Суцкевера. Он позвонил родителям в Торонто, и, пока он продолжал взвешивать все «за» и «против», Брокман бомбардировал его сообщениями, убеждая выбрать OpenAI. Так продолжалось несколько дней. Наконец, в пятницу, в последний день конференции, Брокман и остальные решили, что им нужно объявить о создании лаборатории с Суцкевером или без него. Объявление было назначено на три часа дня, но, когда условленный час настал, никакого объявления не последовало, как и решения со стороны Суцкевера. Лишь позже он написал Брокману, что остается с ними.

Маск и Альтман рисовали OpenAI как противовес284 тем угрозам, которые несут в себе крупные интернет-компании. В то время как Google, Facebook и Microsoft все еще держали некоторые технологии в секрете, OpenAI – некоммерческая организация, в которую Маск, Питер Тиль и другие финансисты обещали вложить сумму более миллиарда долларов285, – собиралась делиться своими будущими технологиями без каких-либо ограничений. Искусственный интеллект должен быть доступен каждому286, а не только самым богатым компаниям на Земле. Да, признавали Маск и Альтман, если они откроют доступ ко всем своим исследованиям, ими с таким же успехом смогут воспользоваться как злые люди287, так и добрые. Если они создадут искусственный интеллект, который можно будет применить как оружие, воспользоваться этим оружием сможет любой. Но, аргументировали они, угроза вредоносного ИИ будет ослаблена288 именно тем, что их технология будет доступна каждому. «Мы считаем гораздо более вероятным289, что большинство разработчиков ИИ будут стараться противодействовать этим потенциальным злым замыслам», – говорил Альтман. Это было идеалистическое видение, которое в конечном итоге оказалось совершенно непрактичным, но именно в это они верили. И исследователи, которые с ними работали, тоже в это верили. Независимо от того, насколько жизнеспособными были эти грандиозные мечты, Маск и Альтман, по крайней мере, проникли в самое сердце самого многообещающего технологического тренда, существующего в мире. Многие из лучших исследователей теперь работали на них. Заремба, который учился у Яна Лекуна в Нью-Йоркском университете, заявил, что эти «граничащие с безумием» финансовые посулы290 его не прельстили. Они, скорее, оттолкнули его291 и еще больше приблизили к идеалам OpenAI. Он полагал, что эти посулы имели целью не столько удержать его самого292, сколько предотвратить создание новой лаборатории. Суцкевер думал так же.

Не все разделяли идеализм, проповедуемый Маском, Альтманом и их товарищами. Хассабис и Легг в DeepMind были в ярости, считая, что их предали – и не только Маск, который вложил деньги в их компанию, но и многие исследователи, нанятые в OpenAI. Пятеро из них в свое время работали в DeepMind, и Хассабис с Леггом полагали, что новая лаборатория создаст нездоровую конкуренцию на пути к интеллектуальным машинам, что может иметь опасные последствия. Если лаборатории будут соревноваться между собой в погоне за новыми технологиями, будет возрастать опасность упустить момент, когда кто-то из них сбивается с пути. В последующие месяцы Хассабис и Легг убеждали в этом и Суцкевера, и Брокмана. Уже через несколько часов после открытия OpenAI Суцкевер услышал еще более резкие слова в свой адрес, когда пришел в конференц-отель на вечеринку, организованную Facebook, где к нему подошел Ян Лекун.

Они стояли возле лифта в углу просторного вестибюля, и Лекун, сказав Суцкеверу, что тот совершает ошибку, привел более десяти причин, почему это так. Исследователи, приглашенные в OpenAI, слишком молоды. Ни у кого из них нет такого опыта, как у него. У лаборатории нет той финансовой поддержки, обеспечить которую способны только такие гиганты, как Google или Facebook, а сама она, будучи некоммерческой структурой, зарабатывать деньги не сможет. Ей удалось привлечь несколько хороших исследователей, но в долгосрочной перспективе она не может соперничать с крупными корпорациями в борьбе за таланты. Идея же о том, что лаборатория будет открыто делиться всеми своими исследованиями, не столь уж значительна и привлекательна, как может кому-то казаться. Facebook и так уже делится большей частью результатов своих исследований с широким научным сообществом, и Google начинает делать то же самое. «Ты еще пожалеешь о случившемся», – напоследок сказал Лекун Суцкеверу.

Глава 10

Взрыв. «Он управлял проектом AlphaGo, как Оппенгеймер управлял “Манхэттенским проектом”»

31 октября 2015 года в напоминающей Диснейленд штаб-квартире компании Facebook ее технический директор Майк Шрепфер293 нависал над столом и обращался к заполнившим зал репортерам. В то время как на плоском дисплее, висевшем на стене рядом с ним, отображались слайды, он рассказывал о последних научно-исследовательских проектах компании294– экспериментах с дронами, спутниками, виртуальной реальностью, искусственным интеллектом. Как это часто бывает на таких тщательно подготовленных и отрепетированных мероприятиях, большинство новостей были уже не новыми. Далее он упомянул о том, что несколько исследователей, работающих в отделениях Facebook в Нью-Йорке и Калифорнии, обучают нейронные сети играть в го295. За последние десятилетия машины научились побеждать лучших игроков по шашкам, шахматам, нардам, реверси и даже в Jeopardy!. Но одолеть человеческий интеллект в игре го до сих пор не удавалось ни одной машине. Незадолго до этого журнал Wired опубликовал очерк о французском ученом-компьютерщике296, который потратил десять лет на создание ИИ, способного бросить вызов лучшим в мире игрокам в го. Как и большинство представителей международного сообщества разработчиков ИИ, он полагал, что должно пройти еще лет десять, прежде чем ему – или кому-то другому – удастся достичь таких высот в своих разработках. Но Шреп перед лицом заполонивших зал репортеров заявил: ученые Facebook не сомневаются297 в том, что, используя технологию глубокого обучения, смогут справиться с этой задачей гораздо раньше, и, если они это сделают, это будет означать огромный скачок вперед в развитии искусственного интеллекта.

В игре го два игрока сидят друг напротив друга перед доской, расчерченной девятнадцатью линиями по вертикали и по горизонтали. Они по очереди кладут камни на пересечения линий, стараясь окружить ими часть доски и при этом захватить камни соперника. Если шахматы имитируют сражение, то го можно скорее уподобить «холодной войне». Ход, сделанный в одном углу доски, оказывает влияние на всю позицию, тонким и зачастую непостижимым образом меняя весь ландшафт игры. В шахматах у игрока каждый раз есть около тридцати пяти возможных