Власть роботов. Как подготовиться к неизбежному - Мартин Форд

href="ch2-191.xhtml#id246" class="a">[191], для создания встроенного знания мира, необходимого для наделения ИИ-системы здравым смыслом.

Если Эциони и члены его команды верят в гибридный подход, объединяющий разнообразные методы, то у непоколебимых приверженцев глубокого обучения эта мысль, как и следовало ожидать, не вызывает энтузиазма. Я спросил Йошуа Бенджио, считает ли он важными такие начинания, как проект Mosaic, или полагает, что мышление на основе здравого смысла каким-то образом может возникнуть само собой в процессе обучения. В ответ он твердо заявил, что верит в подход на основе глубокого обучения: «Я убежден, что здравый смысл появится в ходе процесса обучения. Он возникает не потому, что кто-то всовывает вам в голову крупицы знания, это совершенно не так работает у людей»[192]. Ян Лекун также убежден, что путь к здравому смыслу лежит через обучение. По его словам, команда исследователей ИИ из Facebook работает над тем, чтобы «заставить машины учиться путем наблюдения за различными источниками данных — учиться тому, как устроен мир»: «Мы создаем модель мира, так что, возможно, появится та или иная форма здравого смысла и эта модель станет своего рода предсказательной, помогающей машине учиться так же, как учатся люди»[193].

Радует, что оба подхода энергично применяют некоторые из ярчайших исследователей ИИ. Прорыв, ведущий к появлению ИИ-системы, способной стабильно мыслить на основе здравого смысла, как это считается само собой разумеющимся у людей, станет колоссальным шагом вперед — независимо от того, возникнет эта способность естественным образом или будет сконструирована.

Неконтролируемое обучение

Как мы узнали, два основных метода обучения глубоких систем — это контролируемое обучение, требующее большого количества размеченных данных, и обучение с подкреплением, предполагающее огромное число повторений, в процессе которых алгоритм пытается справиться с задачей. Хотя люди тоже пользуются этими методами, они составляют лишь крохотную долю процесса обучения, происходящего в мозге маленького ребенка. Малыши обучаются через простое наблюдение, слушая голоса родителей, а также непосредственно взаимодействуя и экспериментируя с окружающим миром.

У новорожденных этот процесс начинается почти сразу, они получают знания непосредственно из окружения задолго до того, как обретают физическую способность сколько-нибудь осознанно взаимодействовать с ним. Они каким-то образом формируют физическую модель мира и начинают создавать базу знаний — фундамент здравого смысла. Процесс непосредственного получения знаний без опоры на структурированные и размеченные данные называется неконтролируемым обучением. Это поразительное умение, возможно, обусловлено определенной когнитивной структурой, встроенной в мозг ребенка. Бесспорно одно: способность ребенка учиться самостоятельно, в частности осваивать речь, несоизмеримо превосходит все, чего можно достичь с помощью самых мощных систем глубокого обучения.

Неконтролируемое обучение в начале жизни в дальнейшем становится основой более сложных методов получения знаний. Даже если обучение ребенка постарше до некоторой степени контролируется, необходимые учебные данные составляют крохотную долю информации, которую нужно предоставить даже самым совершенным алгоритмам. Глубокой нейронной сети могут требоваться многие тысячи маркированных фотографий, прежде чем она сможет надежно связывать названия животных с их изображениями. В отличие от этого ребенку зачастую достаточно, чтобы родитель один раз указал на животное и сказал: «Это собака». А если ребенок узнает животное, то он, скорее всего, делает это в любом варианте, независимо от того, сидит собака, стоит или бежит по дороге.

Неконтролируемое обучение в настоящее время является одной из самых актуальных тем в области искусственного интеллекта. Google, Facebook и DeepMind создали команды, занимающиеся этой задачей. Однако достижений здесь немного, и до сих пор не появилось заметного числа практически значимых приложений, если не сказать, что ни одного. Факт остается фактом: никто на самом деле не понимает, как человеческий мозг достигает беспрецедентной компетенции в самостоятельном обучении на неструктурированных данных. Сегодняшние исследования по большей части посвящены менее амбициозным целям в области неконтролируемого обучения. Это, в частности, прогностическое или самостоятельное обучение. Для примера можно привести проекты, в которых ставится цель предсказать следующее слово в предложении или изображение в следующем кадре видео. Казалось бы, эти задачи очень далеки от способностей человека, но многие исследователи убеждены, что способность делать прогнозы — обязательный элемент интеллекта и что подобные эксперименты позволят продвинуться в нужном направлении. Трудно переоценить значимость подлинного прорыва в неконтролируемом машинном обучении. Например, по мнению Яна Лекуна, это может открыть дорогу к прогрессу практически во всех других составляющих универсального интеллекта. Вот его слова: «Пока мы не поймем, как это сделать… нам не добиться существенного прогресса, поскольку, на мой взгляд, это ключ к обретению того базового знания о мире, которое достаточно для появления здравого смысла. Это главное препятствие»[194].

Понимание причинно-следственной связи

Студентам, изучающим статистику, часто напоминают, что «корреляция — это не причинно-следственная связь». Для искусственного интеллекта и особенно систем глубокого обучения понимание заканчивается на корреляции. Джуда Перл, известный ученый-компьютерщик из Калифорнийского университета в Лос-Анджелесе, за последние 30 лет совершил переворот в исследовании причинности и создал формальный научный язык для описания причинно-следственных взаимосвязей. Перл, получивший премию Тьюринга в 2011 году, часто подчеркивает, что если любой человек интуитивно понимает, что восход солнца заставляет петуха кукарекать, а не наоборот, то для самой мощной глубокой нейронной сети это, скорее всего, недоступно. Причинность невозможно выявить, просто анализируя данные[195].

Люди наделены уникальной способностью не только замечать корреляцию, но и понимать причинность, причем на основании поразительно малого числа примеров. Джошуа Тененбаум, профессор вычислительной когнитивистики из МТИ, описывает предмет своих исследований как «обратное проектирование на основе человеческого разума» и надеется, что открытия на этом пути пригодятся при создании более умных ИИ-систем. Вот что он отмечает.

Даже маленькие дети зачастую могут выявлять неизвестную им причинно-следственную связь на основе всего лишь одного или нескольких примеров — им даже не нужно много данных, чтобы заметить статистически значимую корреляцию. Вспомните, как вы впервые увидели смартфон — неважно, iPhone или другое устройство с сенсорным экраном, на котором что-то появляется или начинает двигаться, стоит провести пальцем. Для вас это было внове, но, посмотрев раз или два, вы поняли, что здесь имеется причинно-следственная связь. Это и есть первый шаг к узнаванию того, как этим управлять и получать полезный результат[196].

Понимание причинно-следственной связи обязательно для воображения и построения мысленных альтернативных сценариев, позволяющих нам решать задачи. В отличие от алгоритма обучения с подкреплением, который должен тысячи раз потерпеть неудачу, прежде чем поймет, как достичь успеха, мы можем провести своего рода мысленное моделирование и определить вероятные результаты альтернативных действий. Это было бы невозможно без интуитивного понимания причинности.

Такие исследователи, как Перл и Тененбаум, считают, что понимание причинно-следственной