Конец индивидуума. Путешествие философа в страну искусственного интеллекта - Гаспар Кёниг

понадобились. Впиваясь зубами в свой четвертый бейгл, Джарон вежливо молчал. Сколько раз он слышал подобные объяснения? В конце концов, они есть у всех коллаборантов.

Это стало для меня делом чести или по крайней мере самолюбия. Сидя в Калифорнии, я набрался храбрости и окончательно уничтожил свои учетные записи в фейсбуке и твиттере, решившись более туда не возвращаться. Вот тогда-то я и почувствовал эффект зависимости, в особенности от твиттера, который использовал ежедневно, ежечасно, практически ежеминутно, то есть в любой свободный момент. Когда я обедал с семьей, в любую секунду мог прозвучать сигнал уведомления. Когда я работал на компьютере, аккаунт был открыт в фоновом режиме и любое сообщение тут же отвлекало меня от работы. Я подсел, сам того не осознавая, на поток лайков и ретвитов, потерял способность жить, не получая все чаще и чаще определенную дозу любви и ненависти. Твиттер поддерживал меня в искусственном состоянии перевозбуждения. Изучив мои вкусы, ИИ предлагал мне в самый подходящий момент такие посты, на которые я непременно должен был среагировать[91]. То есть именно в то время, когда я тешил себя иллюзией, будто отстаиваю свободу, я стал своего рода лабораторной крысой, чьи реакции на посылаемые ей сигналы точно просчитаны, – и все для того, чтобы обогатить теневые венчурные фонды. Разве это не идиотизм?

Отвыкнуть, впрочем, оказалось непросто. Внезапно я остался наедине с самим собой, лишенный постоянного потока взаимодействий, которые, по сути, были совершенно предсказуемы. Я осознал, что добровольно замкнулся в «племенной» логике: потерял способность выйти из своего либерального заповедника, высказывать сомнения и уточнения, чтобы не разочаровать ими своих фолловеров, алчущих твердых мнений. Некоторые называют такой феномен «политической гомофилией»[92]: благодаря игре данных интернет стал пространством, которое, не приветствуя различия, усиливает сходства. Больно осознавать это добровольное рабство, странную манипуляцию, источником и одновременно жертвами которой мы стали…

Постепенно я приучился записывать свои впечатления в блокнот, а не постить их у всех на виду, общаться с друзьями, а не поддразнивать их, радоваться собственной жизни, а не хвалиться ею. Прошло нескольких сложных недель (когда, признаюсь, я часто бывал на грани рецидива), и мой мозг вернулся к нормальной работе, восстановив три важнейших интеллектуальных функции: концентрацию, плотность, сложность. Вскоре я обнаружил, что снова смог читать часами, не отрывая глаз от книги, вернулся к внутреннему диалогу, который давно прервался, и начал следить за мыслями, идущими вразрез с моими привычными навязчивыми идеями. Сегодня искусственный рай социальных сетей внушает мне лишь глубокое отвращение. Подобно Рентону из фильма «На игле», я решил вернуться к трезвой и счастливой жизни, без троллей и перестрелок твитами.

Так я на собственной шкуре понял, какой поразительной силой манипуляции обладает ИИ. Чтобы выйти из-под ее власти, требуется железная дисциплина. А вот вернуться к ней можно за один клик…[93]

Но все-таки, если ИИ помогает нам принимать ежедневные решения, от выбора маршрута до занятий фитнесом, может быть, он позволит нам сэкономить интеллектуальные ресурсы для более важных в нашей жизни решений? Что, если применять nudge только в той сфере, которая ограничивается мелочами?

Однако мелочи – это и есть жизнь. Токвиль когда-то сформулировал глубокую мысль: «Именно в мелочах опаснее всего порабощать людей». Когда нас постепенно избавляют от привычки самостоятельно выбирать музыку, которую мы слушаем, или ресторан, где мы обедаем, – как можно свободно выбрать профессию или партнера? В недавнем нейрологическом исследовании изучалось влияние GPS на наш мозг[94]. Сравнивались две группы, которые должны найти дорогу в Лондоне: одной помогает приложение геолокации, а другая обходится без таких приложений. Исследователи пришли к выводу, что упражнение памяти и чувства ориентации повышает активность гиппокампа, причем эта активность растет пропорционально сложности маршрута. И наоборот: ученые опасаются, что постоянное применение GPS может привести к атрофии определенных зон мозга, что повышает риск болезни Альцгеймера. Каждый видел, как водители такси сервиса Waze колесят по Парижу по десять часов подряд, совершенно не осознавая ни места, в котором они оказались, ни географии города. Конечно, нельзя заставить себя вернуться к дорожным картам. Но нужно понимать, что за комфорт, предоставляемый ИИ, приходится платить определенную когнитивную цену. Если мы полагаемся на машину, когда надо повернуть налево или направо, не начнем ли мы в конце концов спрашивать у нее, с кем заключать брак? На что же будет похоже общество без гиппокампа?

Как это часто бывает, китайская модель – наиболее яркая иллюстрация этого вопроса. Чтобы не отвлекаться от проблемы вождения автомобилей, я отправился в штаб-квартиру компании Didi. Она находится в самом центре района Чжунгуаньцунь, который часто называют китайской Кремниевой долиной. Didi – это китайский эквивалент Uber; водители этого агрегатора выполняют 30 миллионов рейсов… в день. Компания, основанная всего-то пять лет назад, уже оценивается в несколько десятков миллиардов долларов, а ее кампус простирается на несколько километров. Стеклянные здания, украшенные оранжевым логотипом Didi, выстроились в ряд до самого горизонта – живое свидетельство поразительной скорости роста китайской экономики. После долгого блуждания по кампусу мне наконец удалось найти нужный адрес. Я встретился с Ву Гуобином, одним из руководителей исследовательского подразделения, специалистом по компьютерным наукам. Когда мы прошли мимо недовольных охранников департамента коммуникации, он безо всякого стеснения объяснил мне, что GPS – лишь первый этап в автоматизации всех решений, связанных с траекторией движения. Система виртуальной реальности будет точно показывать пассажиру, в каком направлении он должен идти, чтобы найти водителя в месте встречи; ему достаточно будет просто следовать за стрелками на экране. Что касается водителя, Didi в этом вопросе занимает еще более амбициозную позицию. Если в традиционных агрегаторах такси водители выбирают поездки в зависимости от меняющихся цен, Didi предпочитает из офиса назначать им «лучшую» поездку. Но самое интересное еще впереди… Ву Гуобин рассматривает возможность оснащения водителей биометрическими датчиками, способными измерять уровень их стресса и подсказывать им, когда нужно остановиться, выпить стакан воды и т. д. Вероятно, в ближайшем будущем ИИ будет предсказывать и тот момент, когда водитель захочет облегчиться, основываясь на количестве потребленной жидкости и его метаболизме. Система в таком случае сможет выбирать поездки так, чтобы в удобный момент он оказался неподалеку от общественного туалета. Разве это не лучше, чем оказаться в пробке с нетерпеливым пассажиром и нестерпимым желанием сходить в туалет? Разве это не станет заметным улучшением условий труда? Как искренне считает Ву, «ИИ вносит вклад в социальное благосостояние».

Так, водитель в Didi станет лишь скоплением плоти и нейронов, подключенным к сети, а ИИ будет указывать ему, какого пассажира взять, по какой улице поехать, когда сделать паузу и где остановиться. Даже