Искусственный интеллект – надежды и опасения - Джон Брокман

что шимпанзе не должны рассматриваться как юридически дееспособные лица, поскольку они «не имеют обязанностей и ответственности перед обществом», сколько бы Джейн Гудолл[210] и прочие ни утверждали обратное, и не принял во внимание довод, что это решение можно распространить на детей и инвалидов[211].

Что мешает распространению наших прав на других животных, органоидов, машины и гибридов? Мы (например, Хокинг, Маск, Таллинн, Вильчек, Тегмарк) добиваемся запрета на «автономное оружие» и тем самым ликвидировали минимум один тип «тупых» машин, однако другие машины – например, из множества Homo Sapiens, голосующих на выборах, – могут быть смертоноснее и ошибаться чаще.

Неужели трансгуманы уже бродят по Земле? Рассмотрим «неохваченные народы», так сказать, нынешние палеонароды – сентинельцев и прочих андаманцев в Индии, коровай в Индонезии, машко-пиро в Перу, пинтуби в Австралии, сурма в Эфиопии, рук во Вьетнаме, айорео-тотобьегосоде в Парагвае, химба в Намибии и десятки племен в Папуа – Новой Гвинее. Что ответят нам они и что ответили бы наши предки? Мы могли бы определить «трансгуманов» как людей и культуры, непостижимые для тех, кто обитает в современной, но атехнологичной культуре.

Таким современным людям каменного века будет крайне трудно понять, почему мы восторгаемся недавним открытием LIGO гравитационных волн[212], подтвердившим общую теорию относительности столетней давности. Они ломают голову над тем, зачем нам атомные часы и спутники GPS для нахождения дороги домой, ради чего и как мы сумели расширить зрение от узкой оптической полосы до полного спектра, а слух – до полной гаммы. Мы можем двигаться быстрее любого другого живого вида; на самом деле мы способны достичь скорости убегания и выживать в ледяном космическом вакууме.

Если эти признаки (и еще сотни других) не характеризуют трансгуманизм, то какие тогда нужны? Если мы считаем, что судить о трансгуманизме должны не представители палеокультур, но мы сами, то как вообще возможно говорить о каких-то трансгуманах? Мы, «нынешние люди», всегда можем оценить новый технологический этап и не удивляемся, когда слышим о достижении очередной сверхчеловеческой цели. Фантаст-пророк Уильям Гибсон утверждал: «Будущее уже здесь, оно просто распределяется не слишком равномерно»[213]. Он недооценивал следующий раунд «будущего», но, безусловно, миллионы из нас уже стали трансгуманами, а мы желаем большего. Вопрос «Кем был человек?» уже мутировал в вопрос «Сколько насчитывалось – насчитывается? – видов трансгуманов? И каковы их права?».

Глава 24

Художественное применение кибернетических существ

Кэролайн А. Джонс

профессор истории искусств факультета архитектуры в Массачусетском технологическом институте, автор книг «Только зрение: модернизм Клемента Гринберга и бюрократизация чувств», «Машина в мастерской: конструирование послевоенного американского художника» и «Глобальное произведение искусства».

Интерес Кэролайн Джонс к модернистскому и современному искусству обогащается желанием углубиться в технологии производства, тиражирования и рецепции этого искусства. «Как историк искусства, я задаюсь вопросами, многие из которых связаны с тем, какое искусство нам требуется, какие мысли нам нужны, какие идеи следует выдвигать, если необходимо вывести человечество за пределы нашего упрямого, эгоистического сознания, озабоченного лишь приоритетами малой группы. Философы и философии, к которым я обращаюсь, ставят под сомнение западную одержимость индивидуализмом. Эти теории возникают по всему миру и снова ставят перед обществом вопросы, казалось бы, уже рассмотренные в 1960-х годах».

Недавно Кэролайн заинтересовалась историей кибернетики. Ее курс в МТИ «Автоматы, автоматизация, системы и кибернетика» посвящен истории взаимодействия человека и машины с точки зрения обратной связи, причем она исследует культурную, а не инженерную рецепцию этих идей. Курс начинается с изложения базовых концепций Винера, Шеннона и Тьюринга, а далее переносит внимание с трудов ученых и инженеров на творческие идеи художников, на воззрения феминисток и теоретиков постмодерна. Цель курса декларируется как формулирование новой основополагающей эволюционной парадигмы с культурным фундаментом: речь о «коммунализме[214] и межвидовом симбиозе, а не о выживании наиболее приспособленных».

Изучая историю, Кэролайн проводит различие между, если воспользоваться ее терминологией, «левой» и «правой» кибернетиками: «Что я подразумеваю под левой кибернетикой? В каком-то смысле это каламбур или шутка: кибернетика, которая осталась позади, а еще – отсылка к политическим взглядам обитателей Левого побережья: Калифорния, коммуна Эсален[215], словом, все те, кого Дэйв Кайзер называет «хиппи от физики». Термин, конечно, не слишком удачный, но он вычленяет группу людей, вынужденных подчиняться военно-промышленному комплексу – и порой горько о том сожалевших – и предоставивших нам инструменты для критики ВПК».

Кибернетическое искусство чрезвычайно важно, но еще важнее искусство кибернетизированной жизни.

Нам Джун Пайк, 1966 г.

Искусственный интеллект – вовсе не то, о чем возмечтали художники, узнав о кибернетике, когда была опубликована книга Норберта Винера «Кибернетика и общество. Человеческое применение человеческих существ» (1950). Поначалу те художники, которые вливались в ряды «кибернетистов» в 1950-е и 1960-е годы, имели крайне ограниченный доступ к «мыслящим машинам». Более того, инженеры-творцы вовсю мастерили черепах, жонглеров и роботов-младенцев, реагировавших на свет, а отнюдь не гигантский мозг. Используя макеты, медную проволоку, простые переключатели и электронные датчики, художники поспешили последовать за кибернетиками, принялись создавать скульптуры и пространственные среды, имитирующие интерактивное восприятие, – это были аналоговые движения и интерфейсы, больше ассоциировавшиеся с инстинктами и послевоенной сексуальной свободой, чем с автоматизацией производства знаний. Ныне же, маскируясь идеологией «интеллекта свободного парения», не обремененного ни аппаратным обеспечением, ни плотью, ИИ «забыл» раннюю стадию восприятия кибернетики художниками. Однако воззрения тех лет заслуживают повторного рассмотрения; ведь они моделировали отношения с «машинным филумом»[216], по выражению французских философов Жиля Делеза и Феликса Гваттари, то есть с тем, как люди мыслят и чувствуют себя в телах, связанных с физическим, материальным, эмоционально стимулирующим и сигнализирующим миром.

Может показаться, что сегодня кибернетика превратилась во «всеохватный» дискурс, но появление ИИ далеко не предопределено. Само слово «кибернетика» отражало послевоенное стремление к обновлению, в том числе обновлению идей четырехвековой давности: тут и концепция обратной связи, и затухание колебаний, и биологический гомеостазис, и логические вычисления, и системное мышление; все это обсуждалось с эпохи Просвещения (а промышленная революция лишь стимулировала обсуждение). Достаточно упомянуть поименно Декарта, Лейбница, Сади Карно, Клаузиуса, Максвелла[217] и Уатта. Впрочем, изобретенное Винером слово разошлось широко[218]. Нынешнее повсеместное употребление префикса «кибер-» подтверждает желание разобраться в запутанных отношениях между людьми и машинами и как можно строже их определить. Для Винера все «кибернетическое» сводилось к «управлению и связи в животном и машине». Но благодаря цифровой революции «кибернетика» вырвалась за пределы сервомеханизмов, контуров обратной связи и переключателей, теперь это и программное обеспечение, и алгоритмы, и киборги. Творчество художников-«кибернетистов» затрагивает новые формы поведения, ускользающие от внимания ИИ в его текущем состоянии.

Что касается