Искусственный интеллект – надежды и опасения - Джон Брокман

фактора, которые нужно учитывать в размышлениях о значении ИИ для общества. Во-первых, ожидания в отношении так называемого искусственного интеллекта, по ее словам, часто завышаются, а существительное «интеллект» вводит в заблуждение; поэтому, чтобы снизить накал страстей, она нередко употребляет выражение «искусственная глупость». Во-вторых, она отмечает, что нынешние программисты делают незримые программные алгоритмы зримыми через изображения, но для понимания и интерпретации этих изображений необходим художественный опыт.

Штейерль много лет занималась компьютерными технологиями, и ее последние творения посвящены методам наблюдения, роботам и компьютерным играм, будь то «Как остаться незамеченным» (2013) о технологиях цифровых изображений или «Черт-подери-мы-подохнем» (2017) об обучении роботов по-прежнему сложной задаче поддержания баланса. Впрочем, чтобы объяснить свое представление об искусственной глупости, Штейерль ссылается на более общие явления, наподобие широко распространенного в настоящее время использования ботов в «Твиттере». В нашем разговоре она сказала:

«Это было и остается очень популярным инструментом – накануне выборов созывать армии сторонников в «Твиттере», влиять через них на общественное мнение, сбрасывать массовые хэштеги и т. д. Это искусственный интеллект очень, очень низкого уровня. Всего-навсего сценарий из двух или трех строк. Ничего сложного тут нет. Но социальные последствия такой искусственной глупости, как я ее называю, уже бросаются в глаза в мировой политике.

Как широко отмечалось, подобного рода технологии фиксировались во многих автоматизированных постах в «Твиттере» накануне президентских выборов в США 2016 года, а также незадолго до голосования по Брекситу. Если даже такие «низкопробные» технологии ИИ, как эти боты, воздействуют на человеческую политику, поневоле задаешься малоприятным вопросом: «Насколько изощреннее окажутся гораздо более совершенные методы будущего?»

Зримое / Незримое

Художник Пауль Клее[160] часто говорил об искусстве как о способе «сделать незримое зримым». В компьютерных технологиях большинство алгоритмов работают незаметно, на заднем плане, оставаясь недоступными для нашего восприятия в системах, которыми мы пользуемся ежедневно. Но в последнее время наметилось любопытное возвращение наглядности в машинное обучение. Способы, которыми алгоритмы глубинного обучения ИИ обрабатывают данные, стали зримыми благодаря таким приложениям, как Google DeepDream, где процесс компьютерного распознавания образов визуализируется в режиме реального времени. Приложение показывает, как алгоритм пытается сопоставить формы животных с любыми заданными параметрами. Имеется множество других программ визуализации ИИ, которые, каждая по-своему, тоже «делают незримое зримым». Трудности восприятия таких изображений широкой публикой, по мнению Штейерль, заключаются в том, что эти визуальные паттерны некритически трактуются как реалистичные и объективные репрезентации машинных процессов. Она рассуждает об эстетике таких визуализаций:

«Для меня это доказывает, что наука стала поджанром истории искусств… Теперь у нас в наличии множество абстрактных компьютерных моделей, которые могут выглядеть как картины Пауля Клее, Марка Ротко или как любые другие абстракции, известные из истории искусств. Единственное отличие, думаю, состоит в том, что современной научной мыслью они воспринимаются как репрезентации реальности, почти как документальные образы, тогда как в истории искусств существует обилие нюансов, характеризующих различные виды абстракции».

Штейерль ищет углубленное понимание компьютерных образов и различных эстетических форм, им соответствующих. Эти образы ни в коей мере не привязаны к какой-либо определенной эстетической традиции. Инженер-компьютерщик Майк Тика в беседе со Штейерль объяснил функции этих изображений:

«Системы глубинного обучения, в особенности визуальные, на самом деле разрабатывались из потребности понимать происходящее внутри черного ящика. Их цель – вернуть эти процессы обратно в реальный мир».

Тем не менее эти изображения обладают эстетическим значением и ценностью, которые необходимо учитывать. Можно сказать, что программисты используют эти изображения, чтобы помочь нам лучше понять программные алгоритмы, а для лучшего понимания эстетических форм ИИ требуются знания художников. Как указывает Штейерль, такие визуализации обычно трактуются как «истинные» репрезентации процессов, но мы должны обращать внимание на соответствующую эстетику и их значение, то есть подходить к ним критически и аналитически.

В 2017 году художник Тревор Паглен создал проект по визуализации незримых алгоритмов ИИ. В фильме «Зрительная машина» он снимал живое выступление квартета «Кронос», а затем обрабатывал полученные изображения с помощью различных компьютерных программ, предназначенных для распознавания лиц, идентификации объектов и даже для наведения ракет. Результаты визуализации алгоритмов проецировались в реальном времени на экраны над сценой. Продемонстрировав, как различные программы интерпретируют работу музыкантов, Паглен показал, что алгоритмы ИИ всегда определяются наборами ценностей и интересов, которые в их работе проявляются и повторяются, а потому должны подвергаться критическому осмыслению. Существенный контраст между алгоритмами и музыкой также поднимает вопрос о взаимосвязи между машинным и человеческим восприятием.

Компьютеры как инструмент для творчества не могут заменить художника

Рэйчел Роуз, видеохудожница, которая размышляет над вопросами, поставленными ИИ, использует компьютерные технологии в своей работе. Ее фильмы дарят зрителю ощущение материальности благодаря движущимся изображениям. Для манипулирования звуком и изображением она использует коллажи и наслоения, а процесс редактирования, возможно, является наиболее важной частью ее творчества.

Еще она размышляет о важности принятия решений в ее работе. Для нее художественный процесс не сводится к следованию рациональным образцам. На одной из конференций в Институте культуры компании «Гугл»[161] она объяснила это нам с инженером Кенриком Макдауэллом, сославшись на историю из книги театрального режиссера Питера Брука «Пустое пространство» (1968). Когда Брук разрабатывал декорации для постановки шекспировской «Бури» в конце 1960-х годов, он начал с создания японского сада, а дальше дизайн развивался – белый ящик, черный ящик, реалистические декорации и т. д. В итоге он вернулся к своей первоначальной идее. Брук пишет, что был потрясен, потратил целый месяц на изыскания ради того, чтобы закончить тем, с чего начинал. Это показывает, что творческий художественный процесс представляет собой некую последовательность, каждый шаг которой основывается на предыдущем; сам процесс в конечном счете приводит к непредсказуемому финалу. Он не является логической или рациональной последовательностью, но связан преимущественно с реакцией художника на полученный результат. Роуз так описывает собственный способ принятия художественных решений:

Для меня это заметно отличается от машинного обучения, потому что в каждом решении таится то исходное чувство, которое принадлежит человеку, которое связано с эмпатией, с общением, с вопросами нашей бренности, и этими вопросами способен задаваться только человек.

Здесь подчеркивается принципиальное различие между человеческим художественным творчеством и так называемым компьютерным творчеством. Роуз считает ИИ возможным способом создания лучших инструментов для людей:

«Могу вообразить, что машинное обучение применительно к художнику будет заключаться не в развитии самостоятельной субъектности, когда машина сочиняет стихотворения или создает образы, а в заполнении пробелов творчества; так, например, мы используем «Фотошоп» – это лишь инструмент, доступный множеству людей.

Хотя со стороны подобные инструменты могут показаться не слишком-то полезными, они, говорит