Создатели искусственного гения. О бунтарях, которые наделили интеллектом Google, Facebook и весь мир - Кейд Метц

технологиях передачи информации между машинами и человеческим мозгом. Бойден недавно удостоился «Премии за прорыв»605 (Breakthrough Prize) – гранта на научные исследования в размере 3 миллионов долларов, предоставляемого сообща Юрием Мильнером, Сергеем Брином, Марком Цукербергом и другими светилами Кремниевой долины. Вместе с Альтманом они рассказали собравшимся, что ученые приближаются к моменту, когда смогут создать полную карту человеческого мозга, а затем воспроизвести его компьютерную модель. Вопрос заключается в том, будет ли машина, действуя как человек, при этом ощущать себя человеком. По их словам, этот же вопрос изучали создатели «Мира Дикого Запада».

* * *

После знаменательной встречи в Дартмуте летом 1956 года Марвина Мински, Джона Маккарти и других основоположников исследования ИИ, некоторые предрекали, что в течение следующих десяти лет компьютер станет настолько умным606, что победит чемпиона мира по шахматам, а также сформулирует и докажет свою собственную математическую теорему. Десять лет истекли, но этого не произошло. Тогда же один из основоположников, профессор Университета Карнеги – Меллона Герберт Саймон, заявил, что в течение следующих двадцати лет появятся машины, способные «выполнять любую работу, которую может выполнять человек»607. Но почти сразу же после этого наступила первая «зима искусственного интеллекта». Когда в 1980-х годах пришла оттепель, снова послышались обещания искусственно воссоздать человеческий интеллект, в том числе со стороны Дугласа Лената, который поставил перед собой задачу привить машине «здравый смысл» с помощью проекта, который получил название Cyc. Но наступили 1990-е, а сколько-нибудь реального прогресса достигнуто не было, и ведущие исследователи перестали обсуждать саму идею моделирования человеческого интеллекта, по крайней мере, публично, и такая ситуация сохранялась в течение следующих двух десятилетий. В 2008 году Шейн Легг поднял этот вопрос в своей докторской диссертации. «В среде ученых эта тема почти табу608: ее относят к научной фантастике. В своих публичных высказываниях исследователи уверяют, что даже самый умный в мире компьютер не умнее муравья. Истинный машинный интеллект, если он вообще когда-то будет разработан, – дело далекого будущего, – писал он. – Возможно, в ближайшие годы эти идеи снова станут мейнстримом в науке, но пока они остаются на периферии. Большинство исследователей по-прежнему крайне скептически относятся к перспективе появления по-настоящему умных машин при их жизни».

В течение следующих нескольких лет эти идеи действительно стали более популярными, и во многом это произошло благодаря Шейну Леггу, который – вместе с Демисом Хассабисом – продолжал укреплять позиции DeepMind и сумел убедить трех крупных инвесторов (Питера Тиля, Илона Маска и Ларри Пейджа), что в эти разработки действительно стоит вложиться. После того как лаборатория DeepMind перешла под крыло Google, Легг продолжал в частном порядке утверждать, что сверхразум близок, но редко высказывался об этом публично – отчасти из-за таких людей, как Маск, которые нагнетали страсти своими утверждениями, что умные машины способны разрушить мир. Но, несмотря на такую сдержанность, его идеи продолжали распространяться.

Когда Хассабис и Легг проводили собеседование с Ильей Суцкевером, тогда еще аспирантом Университета Торонто, и сказали ему, что занимаются созданием искусственного интеллекта общего назначения (AGI), он решил, что они потеряли связь с реальностью. Но после того, как он сам добился успеха в разработке технологий распознавания изображений и машинного перевода в Google – и после того, как провел несколько недель в DeepMind, – он пришел к выводу, что диссертация Легга была «невероятно прозорливой». Многие другие тоже так считали. Пятеро из девяти первых сотрудников OpenAI успели поработать в лондонской лаборатории, занимающейся изучением возможностей AGI. Связующим звеном между этими двумя лабораториями были еще и два общих инвестора: Тиль и Маск. Осенью 2015 года, когда Суцкевер обсуждал перспективы будущей лаборатории OpenAI, ему казалось, что он нашел группу единомышленников – людей, разделявших его убеждения и устремления, – но он беспокоился, что сами эти разговоры ему могут аукнуться. Если бы кто-то услышал, что он всерьез обсуждает перспективы разработки сильного ИИ, в глазах широкого научного сообщества он стал бы отверженным.

В официальном заявлении об открытии лаборатории OpenAI, про AGI речи не было. Был только намек на эту идею как на отдаленную возможность. «Сегодняшние системы искусственного интеллекта обладают впечатляющими, но достаточно узкими возможностями609, – говорилось в заявлении. – Есть надежда, что мы будем продолжать расширять сферы их применения, и в крайнем случае их эффективность и производительность может достичь человеческого уровня в решении практически каждой из умственных задач». Но по мере того, как лаборатория росла и развивалась, опасения Суцкевера рассеивались. Когда в 2016 году, то есть через год после открытия, в OpenAI пришел Ян Гудфеллоу, на вечеринке, устроенной по этому поводу в одном из баров Сан-Франциско, Суцкевер высоко поднял бокал и произнес тост. «Даешь AGI через три года!» – сказал он. После таких слов Гудфеллоу решил не признаваться своим коллегам, что он не очень-то хотел браться за эту работу.

Чтобы начать всерьез заниматься AGI, требовался решительный «прыжок веры». Но это как раз и подтолкнуло некоторых исследователей. Это было чем-то вроде религии. «Как ученые, мы часто испытываем необходимость оправдывать свою деятельность с прагматической точки зрения. Нужно объяснять людям, в чем польза того, чем мы сегодня занимаемся. Но вовсе не прагматизм, а нечто большее побуждает ученых делать то, что они делают, – говорит специалист по робототехнике Сергей Левин. – То, что ими движет, имеет более эмоциональную природу. Это идет скорее от сердца, чем из головы. Вот почему люди занимаются AGI. И этих людей больше, чем может показаться». Как выразился Алекс Крижевский, «мы верим в то, во что эмоционально склонны верить».

Вера в AGI в каком-то смысле передавалась от человека к человеку. Некоторые боялись верить в эту идею, пока в нее не поверило достаточное число людей вокруг. И все же каждый верил в нее по-своему, не так, как другие. Каждый рассматривал эту технологию и ее будущие перспективы через свою собственную призму. А потом эта вера проникла в Кремниевую долину и стала сильнее, потому что в Долине она подкрепилась деньгами, зрелищностью и еще большей верой. В то время как Суцкевер и другие исследователи изначально предпочитали держать свои взгляды и надежды при себе, Илон Маск отмалчиваться не стал. Как и другой основатель лаборатории, Сэм Альтман.

В первые дни 2017 года Институт будущего жизни провел еще один саммит610, на этот раз в крошечном курортном городке Пасифик Гроув, расположенном в средней части калифорнийского побережья. В Пасифик Гроув, в окружении вечнозеленой растительности раскинулся огромный отель Asilomar, место проведения многочисленных конференций, где зимой 1975 года собрались ведущие генетики мира, чтобы обсудить, не