Конец индивидуума. Путешествие философа в страну искусственного интеллекта - Гаспар Кёниг

рынка? Естественно, ИИ. Круг замкнулся. У Харари ИИ превращает индивида в «дивида». У Глена Вайла исчезновение индивида, лишившегося своего ореола собственника, открывает путь к оптимальной организации обменов, которыми управляет ИИ. Это одна и та же концепция, проиллюстрированная двумя дополняющими друг друга перспективами и очень сильно проникнутая буддизмом.

Силами своего фонда RadicalxChange Глен пытается построить общественное движение вокруг своих идей, как это сделал в свое время Генри Джордж. Он затронул больное место нашего времени и привлек большую поддержку. По сути, опираясь на всю строгость экономических теорий, он переводит в практическую плоскость появление «дивида», рассеянного по сети и находящегося под постоянным надзором. ИИ используется для проекта по оптимизации, который, возможно, и не входил изначально в его задачи, но для которого он подходит как нельзя лучше. Таким образом, будущее, с воодушевлением транслируемое ведущими мыслителями, вырисовывается довольно четко. Но то ли это будущее, которого мы хотим?

На всякий случай я захватил с собой противоядие – «Антихрупкость», основную книгу Нассима Талеба. Я урывками читаю ее на протяжении всего моего путешествия, чтобы не терять иммунитет к тому, что Талеб называет «неоманией», иллюзией современности. Финансист, ставший академиком, теоретик рисков, прославившийся своим термином «черный лебедь», Талеб – оригинальный интеллектуал, серьезный и эрудированный. Я без всяких сожалений жертвую финалом Чемпионата мира по футболу, чтобы пообедать с ним в его любимом Ларчмонте, шикарном пригороде на севере Манхэттена.

Нассим Талеб – настоящий колосс. Не только в физическом смысле – он практикует силовые тренировки продвинутого уровня, – но и, конечно, в интеллектуальном: полиглот, увлекающийся чтением античных мыслителей, признанный статистик, знаток как биржевых площадок, так и последних публикаций в области медицины. Нассим – воплощение гуманистического идеала универсального мыслителя. Своими позициями, непривычными и зачастую крайне жесткими, он нажил себе немало врагов. Но его это только радует. Пока мы усаживаемся за стол, он с рассеянным видом заканчивает спор в твиттере, как Обеликс, прихлопнувший последнего римлянина, чтобы затем проглотить своего кабана. Я не решаюсь прерывать бурлящий поток его слов и идей. ИИ ему совершенно не интересен: еще один эпифеномен в серии инноваций, не выдержавших проверки временем. Верный ученик Карла Поппера, Талеб ожидает, что ИИ придется бесконечно отбиваться от атак, которые будут на него производиться. Как технология может изменить человека, со времен Платона так безнадежно похожего на самого себя?

Талеб отвозит меня на вокзал в своей «тесле». В финале Чемпионата мира победила Франция. Прежде чем попрощаться с ним, все-таки решаюсь спросить… Его автомобиль постоянно подключен к GPS и сам паркуется: не меняют ли подобные изобретения наше отношение к риску и случайности, двум ключевым элементам его философии? Нассим пожимает плечами и сквозь зубы произносит: «Данные представляют негативную конвексивность». Чао!

Негативная конвексивность… С точки зрения концепций, разбираемых в «Антихрупкости», это означает, что данные хрупки. Непредвиденный шок может их уничтожить. Малейшее отклонение, спровоцированное на их нормальной траектории, произведет больше потерь, чем было приобретений в знании. Иначе говоря, лихорадочный сбор данных не только не стабилизирует знание, но делает его волатильным. Он порождает «шум», генерирует слишком большой объем важной информации, которая смазывает четкость сигнала. «В большом количестве данные токсичны», – замечает Талеб[170]. Доля неадекватных данных, а значит, риск ложных корреляций растет в геометрической прогрессии по мере их накопления. Вот почему оптимизация наталкивается на естественные пределы. Чем точнее что-то подогнано, тем выше риск, что рано или поздно какая-нибудь случайность нарушит работу всей системы. Талеб приводит в пример организацию аэропортов, которая настолько хорошо продумана, настолько экономит время и пространство, что простое опоздание самолета производит сбой во всей системе и сеет хаос. Говоря шире, сложность и взаимосвязанность порождают хрупкость: один алгоритм не распознал знак пешеходного перехода – и вот уже обрушился весь «умный город»[171]. И наоборот, субоптимальная система, в которой оставлено больше места для ошибки и неожиданности, оказывается «антихрупкой», способной амортизировать удары и позитивно их преобразовывать.

Эти аномальные, непредвиденные, случайные события и есть то, что помогает природе, обществу и знанию двигаться вперед. Это те самые знаменитые «черные лебеди», о которых Талеб писал в предыдущей книге: два тысячелетия человечество верило, что все лебеди белые, пока открытие одного-единственного черного лебедя не разрушило эту якобы бесспорную теорию. Мы должны следить за черными лебедями в Австралии, быть всегда готовыми менять наши теории или знания с учетом непредвиденных факторов. Помимо технических вопросов, недоверие Талеба к ИИ объясняется его любовью к случайности как условию стихийного порядка. Оптимизация создает хрупкость, а хрупкость вызывает паралич. В автономных китайских портах малейшая помеха, даже жвачка, прилипшая к сигнальной ленте, может привести к тяжелым последствиям. Поэтому порт приходится защищать и охранять, держать под колпаком. Но это мешает эволюции и совершенствованию. Верх парадоксальности: оптимизация – противоположность совершенствования! Оптимизация производится с конкретной целью, совершенствование же предполагает постоянную адаптацию к обстоятельствам, конечная цель которых неведома. Мир, строго подчиненный логике ИИ, будет непоправимо подвержен энтропии, будет тяготеть к застывшей стабильности. Повторение обмена товарами, неизменность профессий, неотменяемость любовных связей.

Когда я передаю эти возражения экономисту Роберту Аткинсону, он отвечает: да, нужно оставаться ниспровергателем устоев в мышлении, но только не на практике. Иначе говоря, он бы поощрял расхождения на теоретическом уровне, однако не видит в них пользы, когда речь заходит о медицине или экономике. Но можно ли культивировать критический дух в абстракции, не применяя его в самых насущных областях нашей жизни? Нассим Талеб, впрочем, не стесняется показаться ниспровергателем устоев в области медицины, приписывая достоинства антихрупкости методам, унаследованным из тысячелетнего опыта: например, по интеллектуальным соображениям соблюдает православные посты. Он уверен, что целевые, точечные потрясения – лучшая услуга, которую можно оказать своему организму (и это совпадает с современными теориями о пользе «аутофагии»). Разве без таких экспериментов, выходящих за рамки академического консенсуса, мог бы управляемый ИИ мир произвести хоть что-нибудь, кроме простого повторения одних и тех же выводов и ошибок? Какое чудо поможет нам сохранить способность мыслить иначе, чем принято в группе, если мы подчиняемся ей в нашем бытовом поведении?

Роль случая превосходно иллюстрирует естественная эволюция. Я часто просил моих собеседников представить себе ИИ, которому поручено оптимизировать отношения между первыми бактериями, вышедшими из пребиотического супа три или четыре миллиарда лет назад. Пытаясь улучшить жизнь бактерий и устранить аномалии, не перекрыл бы ИИ путь, ведущий к появлению человечества? Потому что эволюция – это череда ошибок. Биолог Стивен Джей Гульд очень наглядно показал в своей концепции «экзаптации», как естественный отбор, избегающий движения по прямой, занимается бриколажем из подручных материалов. Он не преследует никакой цели, а просто ощупью ищет новое.