Восстание машин отменяется! Мифы о роботизации - Дэвид Минделл

У системы ALIAS будут многочисленные, частично совпадающие задачи. Вероятно, наиболее смелая из них – возможность превратить любой самолет или вертолет и даже большой транспортник в автономный беспилотный аппарат при условии минимального вмешательства в конструкцию сертифицированного воздушного судна. Если будет линия связи с правильными характеристиками, оснащенным устройством ALIAS самолетом можно будет управлять удаленно. Задачей более непосредственной является возможность для ALIAS работать «помощником пилота», помогая ему выполнять рутинные задачи в те моменты, когда рабочая нагрузка на пилота велика и без них (это похоже на то, как маленький робот R2-D2 помогал Люку Скайуокеру в кинофильме «Звездные войны»). Тогда живой пилот сможет контролировать полет, отдавая системе команды через интерфейс, наподобие того, что имеется у iPad.

Наличие помощника пилота поможет совершать длительные полеты с уменьшенным экипажем. ALIAS не заменит собой второго пилота – его наличие на борту заставит переосмыслить взаимосвязь между командиром и вторым пилотом, а также основную задачу управления полетом воздушного судна. Гораздо раньше, чем в жизнь войдут полностью автоматические авиалайнеры, должны начаться полеты с системами наподобие ALIAS, сначала, по всей видимости, на длительных трансокеанских транспортных рейсах.

Я работаю в команде компании Aurora, выигравшей контракт на конструирование и постройку системы ALIAS. Она будет использовать систему машинного обучения для адаптации к новым типам летательных аппаратов, систему компьютерного зрения для того, чтобы видеть и понимать информацию, отображаемую на кабинных дисплеях, и ту или иную форму роботизированных манипуляторов, чтобы управлять полетом при помощи штатных органов управления и пользоваться переключателями на приборных панелях. Устройству потребуется тренировка, чтобы привыкнуть к каждому новому для него типу самолета или вертолета, что подразумевает как обучение базовым летным инструкциям и действиям, так и «наблюдение» за работой управляющего аппаратом живого пилота и сбор данных о том, что именно делает этот человек. ALIAS будет стремиться перенять навыки самых высококвалифицированных пилотов.

Однако наиболее серьезная проблема, которую надо решить при разработке системы ALIAS, – это не создание алгоритмов для нее, а поиск способов сотрудничества с человеком-партнером. Как мы выяснили по опыту коммерческих авиалайнеров, никто из пилотов не желает заполучить себе в кабину еще какой-то черный ящик со сложным интерфейсом, который занят непонятно чем и сбивает с толку пилота. Это значит, что не так просто пересмотреть задачи пилотов таким образом, чтобы повысить уровень абстракции, на котором они действуют, и при этом не добавить в их работу неоправданной сложности. Конечно, все это требует переосмысления самой роли пилота в самолете.

Летчик может в одном полете непосредственно управлять воздушным судном, в другом – управлять им же дистанционно, а в третьем – выполнять полет в автономном режиме. Более того, возможна ситуация, когда человек то разрешает роботу ALIAS управлять самолетом, то спустя час берет управление на себя. Системы наподобие ALIAS будут даже позволять пилоту отдыхать и спать во время длительных полетов, если только получится доказать, что машина способна управлять самолетом в аварийной ситуации достаточно долго, чтобы успеть разбудить командира, проинформировать его или ее о сложившейся ситуации и дать возможность вмешаться в процесс управления, если это окажется необходимым. Сон – проверенный способ снижения усталости пилотов и повышения эффективности их работы, но прежде, чем мы позволим пилоту спать во время полета, придется расстаться с привычным нам представлением о летчике как о герое, который всегда начеку и готов парировать любую опасную ситуацию, и согласиться с тем, что, несмотря на способности этого человека, у него есть свои физиологические и когнитивные ограничения.

ALIAS – проект с высоким уровнем риска и малой определенностью, как и все интересующие Агентство по перспективным оборонным научно-исследовательским разработкам программы. И пока нет ясности в том, когда (и как) он может быть реализован на практике. Но, существуя в качестве программы исследований, некоего сложного мысленного эксперимента, он наглядно подчеркивает идею, в истинности которой мы убеждались десятилетиями: нет постепенного линейного перехода от управляемых людьми аппаратов к дистанционно управляемым, а от них – к автономным. Вместо этого мы наблюдаем процесс слияния. Ручной режим управления, дистанционный и автономный развиваются совместно, и грани между ними постепенно стираются.

Глава 7

Автономность в человеческом мире

Летом 2013 года Международная ассоциация беспилотных транспортных средств (AUVSI) проводила свое ежегодное собрание и торговую выставку в Вашингтоне, округ Колумбия. Там можно было увидеть движущихся роботов, которые бегают рысью как вьючные мулы, летают как стрекозы, стреляют ракетами и осматривают урожаи. Но, на удивление, самой большой новостью на этом собрании были не новые сенсоры, аппараты или гражданские приложения, хотя все они там присутствовали. Самой большой новостью было требование президента ассоциации к прессе и общественности изменить терминологию дебатов.

«Я не использую слово "дрон", – сказал президент AUVSI Майкл Тоскано. – В этом слове заложены определенные домыслы относительно сущности дронов, связанные с Голливудом. Большинство из них сделано в военных целях, большинство пугающи и враждебны». Тоскано отвечал на непосредственную политическую угрозу: за пределами зала собраний протестующие выступали против американских ударов с помощью дронов и перспективы вторжения дронов в частную жизнь американцев на их собственной земле.

«Ключевым здесь является слово "система". Мы надеемся, что это слово общественность поймет, – заявил Тоскано. – Существует человеческое существо в системе. Человеческое существо – это то, что создает систему. Когда вы произносите слово "дрон", вы не думаете, что есть человек, который им управляет».

Тоскано явно попытался улучшить общественный имидж своей отрасли, представители которой обеспокоены тем, что боязнь людей оказаться под наблюдением может помешать развитию технологий в воздушном пространстве Соединенных Штатов. Но это необычное требование использовать для наименования продукции другое слово только подчеркнуло значимость вопроса – и путаницу в терминологии, используемой для обозначения мобильных роботов.

Дроны – не обезличенная техника, их существование обусловлено человеческой деятельностью. На борту беспилотных аппаратов нет людей, но они по-прежнему являются результатом человеческого труда. Автономные аппараты регулярно поддерживают сообщение с человеческим миром и возвращаются в него. Люди-операторы связаны с большим объемом данных, коллегами и визуальной информацией, даже когда оказываются вовлеченными в детали событий, происходящих на другом конце земного шара.

Главное заблуждение состоит в том, что прямое человеческое присутствие обеспечивает аутентичное, компетентное восприятие, тогда как роботы не управляются человеком и делают свою работу сами. Мы не будем вступать в споры об искусственном интеллекте и о том, способны машины думать или нет. Автономная система действительно может использовать недетерминированное (иначе говоря, непредсказуемое) программное обеспечение, или проявлять неожиданные свойства, формирующиеся под действием окружающей обстановки, или задействовать режим обучения. Тем не менее любые системы, считающиеся интеллектуальными, программируются людьми, которые запечатлевают в них свое видение мира.

Итак, в XXI веке автономность – это человеческое действие, отдаленное во времени. Это в каком-то смысле сущность термина «программирование» – говорить компьютеру, что ему делать в какой-то момент в будущем, когда программа будет работать. Конечно, машина реагирует на происходящее в окружающей среде, может столкнуться с новыми ситуациями и даже выработать неожиданное поведение. Но рамки этого поведения остаются очень жесткими и заранее предопределенными конструкторами и программистами. Ровер на Марсе способен «обучаться» в окружающей его обстановке и не станет второй раз пытаться проехать там, где уже однажды застрял, но он не сможет (и в силу механического устройства, и по причине особенностей программного обеспечения) «научиться» открывать коробку с драгоценностями, если она перед ним вдруг возникнет.

Полностью автономные роботы, прокладывающие свой маршрут на местности под контролем компьютера, все еще не теряют свою привлекательность для инженеров. Воспринять окружающую обстановку, классифицировать ее, соединить с моделями или предшествующим опытом и составить планы движения вперед – это одно из наших ежедневных действий. Неопределенность в мире (или внутри самих машин), появление неожиданных факторов, разрушающих привычные ожидания, создает задачу не только более трудную, но и более интересную. Решение подобных задач посредством техники – это выдающийся труд, инженерное мастерство в самом философском смысле: как мы наблюдаем, принимаем решения и действуем в мире? Как мы живем в условиях неопределенности?