Иной разум. Как «думает» искусственный интеллект? - Андрей Владимирович Курпатов

Нет, это подразумеваемое, интуитивное, естественное для нас знание, которое мы не проговариваем.

Это опыт реальности нашего умвельта, в каком-то смысле «тёмная материя» нашего жизненного опыта. Мы не предоставили его ИИ в обучающих данных. Так что, когда он «ошибается» там, где нам всё «очевидно как белый день», это не сбой в системе, не «ошибка», а зияющая дыра в его картине нашего мира.

Таким образом, мы оказались в странном положении — лицом к лицу с иным разумом, чьё понимание реально, но чей мир (умвельт) нам чужд. Мы говорим с ним, но не знаем, что наши слова значат для него. И мы делаем ошибочные выводы о его интеллектуальных способностях, потому что он не проходит наши «тесты» на физический опыт.

Мы создали собеседника, запертого в «китайской комнате» токенов, и экзаменуем его, словно бы он рождён из плоти и крови. Это, мягко говоря, не совсем корректно. И к счастью, создатели искусственного интеллекта это понимают. Впрочем, даже лучшие из них часто не замечают здесь самого главного…

Тело в кавычках

Отныне уже карта предшествует территории, — прецессия симулякров, — именно она порождает территорию.

Жан Бодрийяр

Итак, самые мощные модели современного ИИ бестелесны. Это невероятно умные системы, но их мир напоминает платоновскую пещеру, сотканную из теней человеческих текстов. Поэтому при всей архитектурной мощи ИИ это в некотором смысле «разум в колбе».

Наш же собственный разум, напротив, неотделим от нашего тела, он плоть от плоти — та реальность, в которой с младенчества развивался наш мозг. Но можем ли мы сказать, что наше тело — просто набор биологических датчиков, поставляющих информацию в мозг? Ответ на этот вопрос — по существу, ключ к загадке фундаментальных различий между «пониманием» человека и «пониманием» машины.

Искусственный интеллект может знать о яблоке всё: его химический состав, сорт, историю культивации, тысячи рецептов яблочных пирогов. Он может сгенерировать фотореалистичное изображение яблока или же написать о нём сонет. Но он никогда не знал, каково это — ощутить его упругую гладкость под пальцами, почувствовать его вес в ладони, услышать хруст при укусе и ощутить кисло-сладкий вкус.

Знание ИИ лишено «заземления», оно рождается из пространства символов, не имея точки опоры в непосредственном, физическом опыте. Для большинства создателей ИИ, работающих с большими лингвистическими моделями, этот факт казался незначительным нюансом — в конце концов, мы же мыслим не телом, а вроде бы словами, а слова мы можем передать ИИ.

Невероятные успехи ИИ в имитации виртуозных и, как кажется, почти осмысленных текстов заставили нас забыть, что слова — это вовсе не основа нашей мысли, а лишь её плоды. Поэтому и казалось, что если мы передадим машине наши слова, то в ней само собой возникнет и наше понимание.

Но сколько бы мы ни строили грандиозные замки из абстракций, они остаются парящими над реальностью миражами. Можно уповать на то, что в какой-то момент они обретут такую внутреннюю консистентность, что, отяжелев, коснутся земли.

Впрочем, и в этом случае у них не будет того фундамента, который связывал бы их с нашей реальностью.

Физическая воплощённость

Мир физической реальности дан нам в ощущениях, а революция глубокого обучения вроде бы решила проблему «восприятия»: машины научились «видеть», «слышать» и даже «читать» с точностью, приближающейся, а порой и превосходящей человеческую.

В IT-индустрии и академических кругах воцарилась тогда атмосфера головокружительной эйфории. Казалось, что путь к созданию «общего искусственного интеллекта» (AGI), который во всём будет не хуже людей, наконец-то открыт и теперь единственная наша проблема — масштабирование.

Больше данных, больше параметров, больше вычислительных мощностей — и все необходимые способности у ИИ появятся сами собой[162]. Впрочем, как это часто бывает в истории науки, решение одной проблемы лишь с безжалостной ясностью обнажило следующую, ещё более глубокую и пугающую.

Модели, обученные на гигантских архивах данных — бесчисленных текстах и изображениях из интернета, — начали демонстрировать странную «хрупкость» при столкновении с такой — понятной нам, но предельно загадочной для них — динамичной физической реальностью[163].

Умные модели могли идеально определить стул на изображении и даже его нарисовать. Но робот, оснащённый этой моделью, не мог воспользоваться стулом по назначению. ИИ способен написать блестящий текст о плавании, не имея ни малейшего представления о том, что значит «вода» или «дыхание». Не говоря уже о том, чтобы проплыть хотя бы пару метров.

То есть искусственный интеллект, при всей его грандиозной вычислительной мощи, оказался принципиально оторван от мира — зрячим, но слепым, эрудированным, но наивным.

И да, снова встала ребром проблема физической воплощённости, о которой, за исключением, кажется, только Boston Dynamics, все благополучно забыли или предпочитали просто не думать.

Проблема в том, что ИИ в принципе не озадачен реальностью. Если вы посмотрите на ребёнка, то ситуация обратная — он буквально погружён в окружающий его мир, не может от него оторваться, пытается с ним взаи-модействовать, чего бы ему это ни стоило.

Ребёнка из реальности — всей этой массы раздражителей — вырвать невозможно. Тогда как ИИ лишь сухо и холодно перерабатывает данные, даже не задаваясь вопросом, идёт ли речь о чём-то реальном, фактическом или это просто чей-то очередной галлюциноз.

По сути, инженеры Кремниевой долины на практике столкнулись с проблемой, которая, как мы уже с вами знаем, была до этого подробно разработана французским философом Морисом Мерло-Понти.

Да, наше тело — не только физический объект среди других, а сама точка зрения на мир, наша нулевая точка отсчёта, из которой рождается всякое значение. «Быть телом, — писал Мерло-Понти, — значит быть связанным с определённым миром».

Мышление не начинается в голове, оно начинается в телесном опыте. Именно об этом, как мы помним, заблаговременно предупреждал ИИ-энтузиастов философ Хьюберт Дрейфус в той самой работе «Чего не могут вычислительные машины»[164].

Тогда его аргументы были восприняты как неуместная критика, а теперь стало понятно, что она звучала как пророчество. IT-индустрия, потратив десятилетия и миллиарды долларов, эмпирически пришла к тому же выводу, что сделал Дрейфус и лишь на основе философского анализа: разум, лишённый тела, остаётся призраком, запертым в мире абстракций.

Чтобы понять, почему тело так критически важно, мы должны отказаться от упрощённой метафоры, будто тело — это просто «аппаратное обеспечение» для мозга. На самом деле тело — фундаментальный источник смыс-ла и интуиции, постоянно действующий резонансный контур, без которого наше мышление теряет внутреннюю опору.

Центральную концепцию для понимания этого процесса предложил нейробиолог Антонио Дамасио в своей