Конец индивидуума. Путешествие философа в страну искусственного интеллекта - Гаспар Кёниг

компании, который просит называть его на западный манер Винсентом, учился в INSA в Лионе и бегло говорит на французском. Он засыпал меня объяснениями об умном порте, в котором грузы непрерывно разгружаются и загружаются. Алгоритм предсказывает малейшие передвижения – от расположения контейнера на борту до его движения по транспортным развязкам. Моряки Жака Бреля, которые поднимали лицо к небу и считали звезды, больше не нужны: в умном порту нет ни одной живой души. На демонстрационном изображении, которое показал мне Винсент, видно просчитанную до миллиметров карусель кранов и грузовиков. Westwell поставил оборудование уже в пятнадцать китайских портов. В следующий раз, увидев этикетку «Сделано в Китае», я вспомню об этом непрерывном, тихом, хирургически точном движении товаров, доносящем до нас одежду, которую мы носим, и игрушки, которые мы дарим своим детям.

Преимущество китайских предпринимателей, четко отличающее их от американских коллег, увязших в этических кодексах, состоит в их откровенности. Винсент заявил мне, что конечная цель Westwell – полностью автоматизировать управление портами благодаря способности ИИ к обучению. Уже сегодня его система сократила число контролеров-людей в каждом порту с сорока до шести. Завтра грузовики смогут передвигаться по пространству порта автономно. Приведет ли это к созданию новых рабочих мест? Нет. Но тем лучше: технология снижает издержки, повышает грузооборот порта и исключает несчастные случаи. Остающиеся проблемы, например разметка на парковке, которая плохо прочитывается при распознавании изображений, будут окончательно решены в портах нового поколения: их сразу проектируют так, чтобы обойтись без суждения человека.

Энтузиазм Винсента оказался поистине безграничным. Однако, как он сам признаёт, порт – это закрытая среда. Логистика контейнеров – своего рода огромный кубик Рубика: компьютер всегда сможет найти лучшие комбинации, достаточно оптимизировать потоки. Но все равно это не та задача, которая повторяется в неизменном виде. Параметры все время меняются, в порту не бывает и двух совершенно одинаковых дней. У алгоритма есть способность адаптироваться к постоянно меняющимся сценариям, если только они не требуют внешнего источника знаний. Не нужно знать, откуда поступают товары, для чего они предназначены, на какой стадии находится коммерческая война с США или сколько лет капитану. Автоматизация может увенчаться успехом только в случае крайней изоляции. До ИИ можно было верить, что порт – это место, открытое в мир. На самом же деле это архетип закрытой системы, которая может обойтись без всякого мировоззрения, – редкое исключение в нашем сложном универсуме.

Конструирование автономных портов ex nihilo поднимает, однако, неприятный вопрос о сохранении традиционных профессий. Не возникнет ли искушения увеличить – в целях простоты или из экономического расчета – число подобных пространств, «непроницаемых для здравого смысла», во всех секторах экономики? Иными словами, хотя сегодня официант по-прежнему необходим для парижского бистро, возможно, завтра рестораны будут проектироваться так, чтобы обойтись без него? Что, если потребители постепенно забудут о самом принципе трактира – места общения с весьма сложными целями – и свыкнутся с комфортом таких забегаловок, как кафе Pret A Manger, где я встречался с Чунлонгом? Опасность не столько в появлении ИИ в реальном мире, сколько в такой трансформации этого мира, которая позволит ему приспособиться к ИИ.

Итак, будущее труда зависит не от неизбежной технологической эволюции, а от двойного социально-политического выбора: захотим ли мы сохранить «бредовые работы» и их человеческую, слишком человеческую абсурдность? Хотим ли мы создавать роботизированные, слишком роботизированные среды? Худший из сценариев – тот, в котором все люди посвятили бы себя бесполезным задачам и стали бы при этом жить в абсолютно стерильных пространствах. Я же предпочитаю сценарий, в котором оздоровленный капитализм позволил бы работать меньше, но сохранить несколько хаотичную сложность наших обществ.

Во всех этих сценариях на самом ИИ лежит лишь незначительная ответственность. Паника, связанная с будущим труда, представляется мне в этом случае научно необоснованной, исторически уже отыгранной и сомнительной в моральном плане. Почему пророки автоматизации никогда не ставят под вопрос свою собственную деятельность? Самые известные кассандры, такие как Илон Маск, который регулярно заявляет о замещении и даже уничтожении человечества машинами, – сами настоящие трудоголики[73]. Роботы – это всегда для других, для тех, кто не является незаменимым. Страх автоматизации стал современной формой классового презрения.

Эта двойственность предстала передо мной со всей ясностью в дискуссии с Крейгом Хансоном, основателем инвестиционного фонда NextWorld Capital, во время нашей встречи в Сан-Франциско. Как указывает само название фонда, NextWorld вкладывается в стартапы, занимающиеся проектами на передовой цифровых инноваций. Крейг полагает, что ИИ перевернет все сферы экономики и радикально преобразует общество. Даже если не обращать внимания на громкие заголовки и моду, которые заставляют предпринимателей вставлять отсылки к ИИ в свои презентации, мы вступаем в долгую эпоху «скучного ИИ», когда машинное обучение постепенно захватит все отрасли. Крейг убежден, что такой ИИ сведет роль человека к функции начальника станции, который время от времени дает зеленый свет, а потом и полностью его заменит. По мере того как ИИ будет обучаться принимать все более стратегические решения, наша способность к суждению начнет устаревать.

– Но как обстоит дело с инвестициями? – задал я ему невинный вопрос. – Вас тоже заменит ИИ, способный анализировать бизнес-модели и предсказывать рыночные возможности?

– Нет, ни в коем случае, – тут же вскричал обиженный Крейг. – Инвестиции – это слишком сложно. Этот сектор подвергнется автоматизации последним.

Я предлагаю называть эту реакцию «парадоксом Крейга». Каждый в своей сфере деятельности спонтанно понимает все тонкости своих ежедневных задач, постоянную потребность в суждении, которое не сможет заменить никакой ИИ. Тогда как у других ту же потребность легко игнорировать. Рентгенолог пожелает, чтобы ИИ ради бо́льшей безопасности руководил дорожным транспортом, тогда как дальнобойщик захочет автоматизировать журналистику, которая тем самым станет более объективной, журналист откажется понимать, что такого сложного в инвестициях, а инвестор предпочтет, чтобы машина анализировала его медицинские анализы.

Но я предлагаю каждому опробовать на практике профессию другого, чтобы лучше осознать всю ее сложность. Мы требуем роботизации, поскольку принимаем другого за робота. Немного эмпатии – и эта иллюзия исчезнет. Лучший аргумент против «конца труда» высказал, таким образом, Декарт: здравый смысл – это самая распространенная вещь на свете… однако ее ничем нельзя заменить.

3

Принцип турникета

Почему вам больше не придется делать выбор

В Шанхае шел дождь. Не мелкий дождик Нанта, так вдохновлявший Барбару[74], а муссонный ливень, который стекал с небоскребов и затапливал тротуары, делая любое передвижение невозможным. Я нашел убежище в музее Юз, где проходила коллективная выставка «Random International», поставившая целью исследовать место человечества в технологическом универсуме. Программа обещала «Все или ничего». Я сделал ставку на «ничего» и толкнул дверь, чтобы поскорее попасть