Мир-фильтр. Как алгоритмы уплощают культуру - Кайл Чейка

показатель вырос до 25 %. Поскольку телефон казался мне более личным и интимным устройством, нежели браузер на компьютере, я обычно отказывался. По крайней мере, на мобильных устройствах эта функция ограничивает распространение таргетированной рекламы, которая приносит технологическим компаниям большую часть дохода. В начале 2022 года Фейсбук прогнозировал, что потеряет от ввода этой функции до 10 миллиардов долларов, из-за чего цена акций компании упала более чем на 26 процентов, то есть на 230 миллиардов долларов с лишним.

Появление App Tracking Transparency – по сути, реальный эксперимент, показавший, как американские пользователи реагируют на принудительное обеспечение конфиденциальности данных, подобное предусмотренному GDPR. Оказалось, что мы не очень-то хотим, чтобы за нами следили, если только не видим в этом выгоды. (Например, в некоторых приложениях-видеоиграх процент отказа от отслеживания был гораздо выше.) Apple выделилась, предложив простые функции конфиденциальности, и в результате уела своего конкурента, продемонстрировав, что крупнейшие компании, возможно, не так неуязвимы, как кажется. Доступ к данным – их ахиллесова пята; лишение возможности собирать данные разрушает хватку Мира-фильтра.

По словам Натаниэля Персили, профессора права Стэнфордского университета и содиректора Стэнфордского центра киберполитики, законодательство ЕС имеет непривычную для США форму. Он сказал мне, что законы ЕС, включая GDPR и DSA, как правило, более широки и неоднозначны, они требуют действий, которые нельзя выполнить сразу. Эти законы “предстоит детализировать десятилетиями”. Но такие нормативы послужат функциональной моделью и проложат путь для других стран. “В этом вопросе Европа будет хвостом, который виляет американской собакой”, – выразился Персили. Устойчивость GDPR подтверждает и другой важный аргумент: усиление защиты персональных данных не сломает интернет. Мы можем потреблять контент примерно так же, как и раньше, только с более сильным чувством безопасности и агентности.

Персили стал свидетелем того, как меняются отношения цифровых платформ с их пользователями и правительствами. В 2018 году он помог создать Social Science One – новаторское партнерство Фейсбука и ученых, которое в итоге позволило исследователям изучить внутренние данные этой социальной сети. В 2020 году они выпустили набор данных URL Shares общим объемом более эксабайта (миллиарда гигабайт), содержащий тридцать восемь миллионов ссылок, которыми делились и по которым переходили пользователи Фейсбука. Как заметил Персили, регулированию часто предшествует конфликт. Поводом для формирования Social Science One послужил скандал с британской компанией Cambridge Analytica: эта фирма собирала данные миллионов пользователей Фейсбука без их согласия и использовала в политических кампаниях, включая кампанию Дональда Трампа. Растущее недовольство алгоритмическими платформами привело к большей открытости в отношении регулирования. “Люди отчаянно хотят, чтобы что-нибудь было сделано”, – говорит Персили.

Из всех имеющихся стратегий – обеспечение прозрачности алгоритмов, реформирование раздела 230, регулирование распространения определенных видов контента и защита прав на данные – путеводной звездой при регулировании платформ Персили считает прозрачность. Это наиболее важно отчасти потому, что в большинстве случаев мы просто не знаем, что на самом деле происходит в наших лентах, когда компании отчитываются только перед собой. Прозрачные данные, которые доступны хотя бы исследователям для изучения в защищенной, анонимизированной среде, – это ключ к планированию оптимальных форм будущего регулирования, и вместе с тем такая ситуация может дать дополнительное преимущество: появится реальное постоянное давление на технологических гигантов без необходимости разрабатывать более четкую политику. “Это повлияет на поведение фирм. Если они будут знать, что за ними следят, их решения будут иными”, – заметил профессор.

Заставить Фейсбук сотрудничать с Social Science One оказалось непросто: юристы компании прикрывались аргументом, что передача данных сторонним аналитикам нарушает конфиденциальность пользователей. Этот конфликт заставил Персили начать работу над собственной концепцией федерального законодательства, касающегося социальных сетей. Требовалось предусмотреть юридическое наказание за отказ делиться данными, когда это отвечает общественным интересам. “Крайне важно, чтобы у нас имелось хоть какое-то окно внутрь платформы, чтобы понять сегодняшнее поведение человека, потому что в основном оно проявляется в Сети”, – говорит он. Персили приступил к разработке текста закона, пользуясь отзывами от социологов и юристов. Профессора поторопило разоблачение Фейсбука менеджером Фрэнсис Хаген, и он опубликовал проект в тот же день, когда она давала показания в Сенате.

Сенатор от штата Делавэр Крис Кунс сразу же связался с Персили и принял его текст за основу законопроекта о прозрачности, за продвижение которого взялась более многочисленная группа политиков. Его концепция превратилась в Закон о подотчетности и прозрачности платформ (PATA), обнародованный в декабре 2021 года при поддержке обеих партий. Теоретические идеи стали законом. PATA требует, чтобы компании, занимающиеся социальными сетями, предоставляли данные исследователям по запросам, которые тщательно проверяются Национальным научным фондом. Компании, которые не подчинятся, потеряют защиту, предусмотренную разделом 230, и будут нести ответственность за все, что происходит на их платформах.

PATA присоединяется к другим потенциальным законодательным актам, таким как NUDGE Act – предложение, внесенное в 2022 году сенаторами от разных партий Эми Клобушар и Синтией Ламмис (замысловатая аббревиатура расшифровывается как Nudging Users to Drive Good Experiences on Social Media Act – “Закон о подталкивании пользователей к положительному опыту взаимодействия с социальными сетями”). Для Соединенных Штатов эти усилия – скорее начальный рывок, нежели конечный результат: возможно, мы уже осознали, что алгоритмические ленты вредят нам как индивидуально, так и коллективно, но мы еще далеки от понимания того, как лучше всего смягчить последствия их деятельности на государственном уровне.

Регулирование предлагает политические решения для того, что часто считается политическим вопросом. Действительно, некоторые наиболее заметные проблемы алгоритмических лент затрагивают политические вопросы: свободу слова, харассмент, технологически закодированную предвзятость и промышленный капитализм. Но в Мире-фильтре эти ленты влияют и на более обыденные аспекты жизни. Любая попытка регулировать злонамеренную риторику в интернете в конечном итоге также повлечет изменения в наших методах выбора телешоу или музыкального альбома. Может нарушиться и монополия алгоритмов на наше внимание.

Но когда речь идет о культуре, регулирование не может быть единственным решением (государственная политика редко преуспевает на этой арене). Закон может вынудить какую-нибудь платформу запретить проблемный контент, но не может заставить Spotify рекомендовать вам более сложную или творчески интересную музыку в плейлисте. К сожалению, конституционного права на личный вкус у нас нет. Поэтому мы должны изменить свои собственные привычки и лучше осознать, как мы потребляем культуру и как можем противостоять пассивным методам алгоритмической подачи информации. Точно так же, как мы предпочитаем покупать в магазине продукты с маркировкой, указывающей на органические продукты, мы должны искать цифровые пространства, которые поддерживают неоднородную культуру и позволяют творческим людям выражать себя, не поддаваясь давлению однообразия.

Нужно проявлять внимание к тому, за какими каналами мы следим, а также понимать, как