Власть роботов. Как подготовиться к неизбежному - Мартин Форд

службам безопасности. Теоретически, однако, ничто не мешало компании со временем сделать свою систему доступной для широкой публики, что грозит почти полной утратой анонимности. Если бы эта технология стала общедоступной, любой человек, пользующийся приложением Clearview, мог бы мгновенно идентифицировать практически кого угодно и когда угодно. Зная имя человека, ничего не стоило бы найти его домашний адрес, место работы и любую другую конфиденциальную информацию. Неизбежным результатом стал бы всплеск преследований, шантажа и публичного шельмования практически за любую неосторожность, а также бесчисленные другие злоупотребления. Иными словами, американский частный сектор вполне способен создать антиутопию вездесущего наблюдения — в потенциале похлеще, чем все замышляемое в Китае, — без какого бы то ни было участия или контроля властей. Некоторых спонсоров Clearview AI такая опасность, похоже, совершенно не пугает. «Я пришел к выводу, что из-за постоянного увеличения объема информации никакой частной жизни скоро не останется, — сказал The New York Times один из первых инвесторов компании. — Законы должны устанавливать, что легально, но запретить технологию невозможно. Разумеется, результатом может стать антиутопическое будущее, но этого не запретить»[279].

Статья в The New York Times вызвала волну споров вокруг компании, а также привлекла внимание хакеров, которым удалось взломать серверы Clearview и получить полный список ее платных клиентов, а также потенциальных заказчиков, пользовавшихся 30-дневной бесплатной пробной версией приложения. Оказалось, в число пользователей Clearview входили важнейшие агентства, в том числе ФБР, Интерпол, Служба иммиграционного и таможенного контроля и офис прокурора Южного района Нью-Йорка, а также сотни управлений полиции по всему миру. Несмотря на заявления компании, что она работает только с официальными правоохранительными органами, приложение использовалось частными компаниями, включая Best Buy, Macy’s, Rite Aid и Walmart. Более того, есть подозрение, что работники предприятий частного сектора используют приложение без санкции работодателей. Расследование BuzzFeed показало, что пять аккаунтов, связанных с Home Depot, выполнили почти 100 поисковых операций с помощью этого приложения, хотя руководство Home Depot заявило, что ничего об этом не знает[280]. Иначе говоря, доступ к технологии уже просачивается в более широкое публичное пространство.

Обнародование этих фактов вызвало немедленную реакцию. В течение нескольких недель Twitter, Facebook и Google направили компании требования прекратить противоправную деятельность — остановить сбор фотографий на их серверах и немедленно удалить изображения, уже попавшие в базу данных[281]. В конце февраля Apple заблокировала приложение Clearview для iPhone, поскольку компания нарушила пользовательское соглашение с Apple, обойдя App Store[282]. Вскоре после этого Clearview объявила, что аннулирует все лицензионные соглашения с частными компаниями и ограничится взаимодействием с правоохранительными ведомствами, но эта мера многим показалась неэффективной. В мае Американский союз защиты гражданских свобод (American Civil Liberties Union, ACLU) подал иск против Clearview, утверждая, что ее технология представляет собой «кошмарный сценарий», который «покончит с частной жизнью, какой мы ее знаем, если эту компанию не остановить»[283]. Clearview продолжает работать и утверждает, что она уверена в своем праве прочесывать интернет в поисках фотографий и готова в суде бороться с соцсетями за этот доступ.

Случай с Clearview AI — важное предостережение в отношении не только распознавания лиц, но и искусственного интеллекта в целом. Используя подобную технологию с уникальными возможностями, крохотная кучка специалистов — а то и один человек — способна дестабилизировать социальную или экономическую жизнь практически в невообразимых масштабах, и, как будет показано в следующей главе, такие риски создаются не только технологиями слежения на основе ИИ.

Учитывая масштабы возмущения действиями Clearview, ее амбиции, скорее всего, удастся обуздать. В целом, однако, распространение систем распознавания лиц в западных странах стремительно растет. Демократические общества должны как можно скорее выработать компромисс с учетом ценности и решить этические вопросы, сопутствующие использованию этой технологии. В Лондоне — сегодня он рекордсмен по наблюдению за гражданами среди городов западного мира, имеющий больше камер видеонаблюдения на душу населения, чем Пекин[284], — системы распознавания лиц устанавливаются с начала 2020 года. По утверждению лондонской полиции, они предназначены исключительно для обнаружения людей из «специального» списка, которые разыскиваются за серьезные преступления. Однако систему также можно использовать для поиска пропавших детей и взрослых[285].

В Соединенных Штатах около четверти управлений полиции имеют доступ к технологии распознавания лиц. Системы распознавания лиц также широко применяются в аэропортах, где ищут известных террористов или преступников, и все чаще используются для установления личности в ходе проверки безопасности. В большинстве случаев, например в лондонской системе, эта технология идентифицирует лишь тех, кто входит в специальные списки разыскиваемых лиц. Однако мы маленькими шажками подходим все ближе и ближе к тотальному проникновению в частную жизнь, ознаменованному приложением Clearview, когда идентифицировать можно практически любого. ФБР имеет базу, содержащую, согласно анализу Центра приватности и технологий Школы права Джорджтаунского университета, снимки около 117 млн человек — примерно половины взрослого населения Соединенных Штатов[286]. Большинство из них — это фотографии на водительские права, выдаваемые властями штатов, то есть в базу включены все жители, которые получали удостоверения личности, а не только те, кого разыскивают за преступления. Разумеется, согласие людей на включение их фотографий в базу данных не требуется, а добиться исключения из системы невозможно.

Хотя угроза частной жизни совершенно реальна, важно понимать, что при правильном и этичном использовании системы распознавания лиц однозначно полезны. Эта технология позволила задержать множество опасных преступников. В ситуации с Clearview ущерб неприкосновенности частной жизни, очевидно, перевешивает пользу, тем не менее благодаря этому приложению были опознаны опасные уголовники. Особенно эффективным оно оказалось в идентификации насильников и распространителей детской порнографии. Системы распознавания лиц, действующие в общественных местах, также могут быть очень полезными для снижения уровня преступности. Лондонская полиция справедливо отмечает: «Мы все хотим жить и работать в безопасном городе; общественность может не сомневаться в том, что мы будем использовать общедоступную технологию для борьбы с преступностью»[287].

Более того, повсеместное слежение в Китае, которое с западной точки зрения есть не что иное, как откровенное подавление личности, вовсе не обязательно воспринимается отрицательно большинством китайцев. Многие жители Сянъяна искренне одобряют систему выявления нарушителей правил перехода улиц, потому что она эффективна, и на опасных в прошлом перекрестках стало больше порядка. Я лично расспросил немало жителей Китая, и в наших беседах постоянно всплывало общее наблюдение — у людей усилилось чувство защищенности от преступлений, в частности родители стали меньше бояться за маленьких детей. Не следует недооценивать потенциальную важность этого изменения. Ощущение безопасности в том месте, где живешь, высоко ценится большинством и коррелирует с улучшением показателей физического