Создатели искусственного гения. О бунтарях, которые наделили интеллектом Google, Facebook и весь мир - Кейд Метц

приведет ли их деятельность по редактированию генов к гибели мира. Теперь там собрались разработчики ИИ, чтобы еще раз поговорить о том, не содержится ли такой же экзистенциальный риск в искусственном интеллекте. Там присутствовали Альтман, Маск и большинство других крупных деятелей, связанных с OpenAI и DeepMind611. На второй день конференции Маск появился на сцене как участник круглого стола612, посвященного идее сверхразума. Каждого из девятерых участников дискуссии спросили о возможности реализации этой идеи613, и все они, передавая микрофон друг другу, сказали «да», пока микрофон не добрался до Маска. Он сказал: «Нет»614, – и по аудитории пробежал смех. Во что он верил, уже знали все. «Мы движемся либо к сверхразуму615, либо к концу цивилизации», – сказал он, когда смех утих. В продолжение дискуссии Макс Тегмарк спросил, как люди смогут жить рядом со сверхразумом616, когда он появится, и Маск ответил, что для этого потребуется прямая связь между мозгом и машинами. «Все мы уже киборги617, – сказал он. – Каждый из нас уже неотделим от своего телефона618, компьютера и всех этих мобильных приложений. Они стали неотъемлемой частью нас, и каждый из нас уже сверхчеловек». Единственное ограничение, пояснил он, заключается в том, что люди не могут пользоваться своими приложениями достаточно быстро. Интерфейсу между мозгом и машиной не хватает скорости, «пропускной способности»619. Люди по-прежнему используют «мясные палочки»620 – свои пальцы, – чтобы вводить текст в свои телефоны. «Мы должны преодолеть это ограничение621 с помощью высокоскоростного подключения к нейронной коре».

В какой-то момент Орен Эциони, глава Института искусственного интеллекта имени Аллена, вышел на сцену и попытался сдержать фантазии участников622. «Я слышу, как многие люди много всякого говорят623, не владея информацией, – сказал он. – Я призываю каждого задуматься: “Эти утверждения действительно основаны на фактах или это спекуляции?”» Но большинство присутствующих приняли сторону Маска. Это был спор из категории тех дискуссий, которые все чаще разгорались на подобных мероприятиях и в которых невозможно одержать победу. Ведь это был спор о том, что произойдет в будущем, а это означало, что каждый мог говорить что хотел и его невозможно было опровергнуть. Но Маск как никто умел использовать такие споры в своих интересах. Несколько месяцев спустя он представил новый стартап под названием Neuralink624, подкрепленный 100 миллионами долларов, который был нацелен на создание «нейронного кружева» – интерфейса между компьютером и мозгом – и располагался в том же самом офисе, что и OpenAI.

Хотя Маск вскоре покинул OpenAI, амбиции лаборатории под руководством Альтмана продолжали расти. Сэм Альтман воплощал в себе архетип Кремниевой долины: в 2005 году, будучи девятнадцатилетним второкурсником колледжа625, он основал свою социальную сеть. Компания называлась Loopt, и в конечном итоге она привлекла 30 миллионов долларов венчурного капитала626, став одной из первых инвестиций, сделанных фондом Y Combinator и его основателем Полом Грэмом. Семь лет спустя социальная сеть Loopt была продана с убытком для инвесторов и закрыта627. Но для самого Альтмана, невысокого стройного мужчины с проницательными зелеными глазами и особым талантом находить деньги, выход из этого бизнеса оказался вполне успешным. Вскоре Грэм объявил, что уходит с поста президента Y Combinator, и назначил Альтмана на свое место, что удивило многих в группе компаний, принадлежащих Y Combinator. Это позволило Альтману стать консультантом бесконечного потока стартапов. В обмен на советы и капитал фонд Y Combinator получал долю в каждой компании. Кроме того, Альтман лично инвестировал в некоторые компании и очень быстро разбогател. С одной стороны, он считал, что успешно управлять Y Combinator могла бы даже обезьяна, но, с другой стороны, он также полагал, что, именно управляя этим фондом, он выработал в себе тонкое умение оценивать людей, которое его редко подводило, не говоря уже о навыках и возможностях, связанных с привлечением крупных капиталов. В его стремительном карьерном восхождении быстро менялась и мотивация: сначала это были деньги, потом власть над людьми и компаниями, оказавшимися в его орбите, и, наконец, чувство удовлетворения от создания компаний, способных оказать реальное влияние на судьбы мира в целом. С помощью OpenAI он стремился оказывать еще большее влияние. Искусственный интеллект общего назначения как цель был важнее – и интереснее, – чем все остальное, чем бы он еще мог заниматься. И поэтому переход из Y Combinator в OpenAI он считал неизбежным для себя.

Как и Маск, он был предпринимателем, а не ученым, хотя иногда говорил, что изучал искусственный интеллект в Стэнфорде, но бросил учебу на втором курсе. В отличие от Маска, он не находился в постоянном поиске внимания и возможности подискутировать с кем-нибудь в прессе и социальных сетях, но он тоже был человеком, который жил так, словно будущее уже наступило. Это было нормой для лучших представителей элиты Кремниевой долины, которые понимали, осознанно или бессознательно, что это лучший способ привлечь внимание, финансирование и лучшие кадры, вне зависимости от того, работали они в крупной компании или запускали небольшой стартап. Идеи могут потерпеть неудачу. Прогнозы могут не сбыться. Но следующая идея может увенчаться успехом только в том случае, если они сами и все вокруг них поверят, что это возможно. «Вера в себя – огромная сила628. Самые успешные люди, которых я знаю, верят в себя почти маниакально, – писал он. – Если вы не верите в себя, тогда вам трудно позволить себе верить в спорные идеи о будущем. Но только так можно добиться максимальной пользы». Он любит вспоминать случай, когда Маск устроил для него экскурсию по фабрике SpaceX, где его поразили не столько ракеты, предназначенные для полета на Марс, сколько уверенность на лице Маска. «Ага, – подумал он про себя тогда, – вот эталон настоящей веры в себя».

Альтман знал, что то, во что он верит, не всегда будет сбываться. Но он также знал, что большинство людей недооценивают, как быстро могут разрастаться изначально, казалось бы, мелкие идеи. В Кремниевой долине это называют «масштабированием». Когда Альтман полагал, что идея масштабируема, он не боялся делать большие ставки на ее развитие. Он мог промахиваться снова и снова, но, когда он оказывался прав, он хотел извлечь из своей правоты максимум возможного. В этой связи он любил цитировать Макиавелли: «Совершай ошибки из честолюбия, а не из лени»[7]. После выборов 2016 года он сетовал на то, что публика не отстаивала цели Кремниевой долины с таким же энтузиазмом, как поддерживала, скажем, космическую программу в 1960-е годы – потому что видела в этих целях