Конец индивидуума. Путешествие философа в страну искусственного интеллекта - Гаспар Кёниг

на основе компьютерных симуляций: наши цифровые аватары должны экспериментировать вместо нас, разыгрывая бесконечное число любовных приключений, прежде чем найти идеального партнера. Больше не нужно зря страдать!

Как усовершенствовать сервис Baihe? Собрав больше данных, конечно. Платформа уже прославилась тем, что цинично высказалась за доступ к объективным сведениям, таким как финансовое положение или уровень образования. Мечта Фана – получить возможность связать с ними данные электронной торговли и данные о состоянии здоровья. Он рад тому, что сегодня все поведение регистрируется и анализируется. Для ИИ нет бесполезных данных, какими бы далекими они ни казались для исходного поиска. Ведь если бы Baihe могла получить доступ ко всем сведениям о личной жизни, ко всем ее закоулкам, рекомендации достигли бы максимальной точности. Мы бы тогда находили родственную душу с первой попытки. Но в таком случае в стране должно действовать одно огромное предприятие, способное предоставлять нам доступ к любви так же, как к кредиту, жилью и образованию… «И таким предприятием было бы правительство», – делает вывод Фан. У меня еще будет повод вернуться к этой заманчивой перспективе.

«В будущем люди станут прозрачными», – уверенно обещает Фан. Вскоре мы поймем, что бессмысленно притворяться, если можно воспользоваться преимуществами оптимизации. «Таким образом, – говорит мне Фан, указывая рукой на холл отеля, – если бы здесь прошла какая-нибудь девушка и вы бы друг другу понравились, приложение сразу бы известило тебя об этом». Больше нет нужды искать предлог для знакомства, соблазнять – короче говоря, врать. Удобно!

Итак, купидон не может ускользнуть от глубокого обучения. Даже в самой нестабильной типологии, типологии чувств, ИИ показывает все большие успехи. Неслучайно, что книга «Датаклизм», в которой описываются мельчайшие детали того, как алгоритмам удается узнать нас лучше нас самих, была написана основателем одного из самых посещаемых сайтов знакомств[97].

Не знаю, придет ли такой день, когда все наши решения будут делегированы ИИ. Существуют, впрочем, физические, материальные ограничения обработки данных. Так, Фредерик Прост, известный математик и специалист по компьютерным наукам из Университета Гренобля, объяснил мне, что если бы мы захотели выстроить в ряд все числа, соответствующие 130 битам (например, от 0 до 2 в степени 130), для этого потребовалось бы больше энергии, чем есть во всей видимой Вселенной. Представление о том, что можно полностью воспроизвести нашу среду в форме единиц и нулей, является, следовательно, слишком энергозатратным. Огня десятка солнц не хватило бы для того, чтобы найти мне идеального партнера среди семи миллиардов людей.

Тем не менее глубинная логика ИИ, теорию которого разработали Канеман и Ко. и которая применяется сегодня на индустриальном уровне, состоит в том, чтобы обойти свободу воли, назойливую иллюзию растерянных западных людей.

Метаутилитаристский ветер

Итак, допустим, что ИИ пытается заранее определять наши решения. Пришло время поставить вопрос: по каким именно критериям? Каковы параметры цифровой оптимизации?

Лучший ответ на этот вопрос дает все тот же Джарон Ланье: по Кремниевой долине гуляет «метаутилитаристский ветер». На самом деле нельзя сказать, что алгоритмы лишены всякой идеологии. Их придумывают для того, чтобы повысить индивидуальное благополучие, измеряемое как разность между удовольствиями и страданиями. Подобный утилитаризм представляет собой философский выбор, для многих пользователей и потребителей определенно соблазнительный, однако он все равно остается одним вариантом из многих (например, можно представить алгоритмы, которые программировались бы так, чтобы нести нам мир, свободу или сомнение…). В этом плане Кремниевая долина – наследница Джереми Бентама, основателя утилитаризма, подспудное влияние которого на современные технологии явно недооценивается. Цифровые гиганты не придерживаются морального нейтралитета. Google, став в 2015 году компанией Alphabet, сменил свой лозунг: раньше он был вполне попперианским – «Не будь злым», а теперь стал более нормативным – «Поступай правильно». Речь уже не о том, чтобы избежать зла, а о том, чтобы творить добро. Но что это за добро в секуляризированном мире, если не максимизация счастья или по крайней мере благополучия, возведенного в высшую ценность? Кстати, могу дать вам пароль от вайфая в аэропорту Лос-Анджелеса: «happy».

Действительно, апелляция к полезности кажется бесспорной. Я осознал это, когда посетил один стартап в центре Пало-Альто, расположенный в районе, где еще сохранилось испанское очарование. Я уже не помнил, как добился встречи, и, к своему стыду, не провел никаких предварительных исследований. Знал лишь название компании, которое показалось мне довольно многообещающим, – Humanize.

Тэми, молодая соосновательница стартапа, приняла меня радушно, на шее у нее была странная белая коробочка, похожая на колокольчики, с которыми коровы и овцы пасутся на альпийских лугах. Вначале я не обратил на эту коробочку особого внимания. Тэми объяснила мне свой подход: он опирается на ее диссертацию в MIT, посвященную проблеме понимания человеческих взаимодействий. Просто замечательно, отличный проект! Сегодня же Humanize внедряет это исследование на предприятиях, чтобы лучше понять динамику взаимодействий между сотрудниками. Ужаснувшись, я начал понимать, в чем тут дело… Речь шла о квантификации времени, потраченного на разговоры с тем или иным коллегой. Никаких сомнений: колокольчик – это и есть продукт компании. В нем размещался аудиодатчик, который включался при каждом разговоре, позволяя, таким образом, оценивать прямые голосовые взаимодействия внутри организации. Благодаря Humanize болтовню возле кофеварки стало возможно учитывать в статистике производительности.

Тэми показалась мне настолько очаровательной и воодушевленной, настолько исполненной благих намерений, что я долго не решался задать ей вопрос: не является ли такая технология, если так можно выразиться, слегка интрузивной?

Она покраснела. Прежде всего, содержание разговоров не записывается. Во-вторых, собранные данные анонимизируются, прежде чем будут обработаны ИИ. В-третьих, подумал ли я об огромных выгодах этой инновации? Сотрудники, которые раньше оставались в тени, теперь могут быть признаны в качестве «связных», к которым все обращаются за помощью, а это зачастую заставляет руководство менять внутренние методы оценки. И наоборот, люди, которых группа отталкивает, очевидно, не раскрывают своего потенциала и рискуют увольнением – не лучше ли в таком случае предупредить разрыв? Также становится возможным оценивать, соблюдается ли паритет на встречах, даже неформальных, – разве это не шаг в сторону равенства мужчин и женщин? Колокольчик – это на самом деле «социометрический бейдж», позволяющий усовершенствовать управление человеческими ресурсами, определить уровень общего доверия и гарантировать, что каждый будет чувствовать себя включенным в работу. Задача в том, чтобы дать голос наиболее скромным сотрудникам и предоставить им справедливую компенсацию за создаваемую ими ценность, пусть она и производится за счет вроде бы совершенно невинного разговора. Впрочем, несогласным Humanize предлагает носить «фальшивый бейдж», в котором нет детекторов, но знать об этом никто не будет. За восемь лет было лишь два таких случая. Что и требовалось доказать…

Признаюсь, после этой страстной тирады я