Мир-фильтр. Как алгоритмы уплощают культуру - Кайл Чейка

материальной поддержки ИГИЛ своими доходами от рекламы и не работает с контентом, связанным с ИГИЛ, каким-то иным образом, нежели с прочим контентом, и сохраняет свой теоретический нейтралитет в качестве распространителя.

Однако в октябре 2022 года Верховный суд решил рассмотреть это дело наряду с другим иском против цифровых платформ, возможно, создав важный прецедент для нынешней эпохи вездесущих алгоритмов. “Вопрос о том, применим ли раздел 230 к рекомендациям, генерируемым алгоритмами, имеет огромное практическое значение. Интерактивные компьютерные сервисы постоянно направляют подобные рекомендации, в той или иной форме, практически каждому взрослому и ребенку в Соединенных Штатах, которые пользуются социальными сетями”, – утверждала семья Гонсалесов в апелляции по делу. Против закона выступила разоблачительница Фейсбука Фрэнсис Хаген, которая раскрыла внутренние документы, доказывающие, что компания знала о вреде, который могут нанести ее алгоритмические рекомендации. “Если бы мы реформировали раздел 230, чтобы заставить Фейсбук отвечать за последствия своих преднамеренных решений по ранжированию, я думаю, компания избавилась бы от ранжирования на основе вовлеченности”, – заявила Хаген в 2021 году на заседании сенатской комиссии.

Алгоритмические ленты помогают автоматически распространять ложную информацию и могут ускорить идеологическую радикализацию, подсовывая пользователям все более экстремальный контент в определенной категории. Проблема с разделом 230 заключается в том, что в конечном итоге, как ни странно, этот закон в настоящее время обеспечивает отсутствие ответственности за последствия алгоритмических рекомендаций. Сами технологические компании ни за что не отвечают, системы регулируются исключительно изнутри, а пользователям при отсутствии элементарного модерирования контента остается только заботиться о себе самим. Если алгоритмические ленты помыкают нами или содействуют созданию агрессивной или эксплуататорской онлайн-среды, у нас – как у пользователей и граждан – мало методов защиты. Одна из немногочисленных возможностей – переход на другую платформу, однако и она уже ограничена проблемой монополизации. Наши отношения с алгоритмическими лентами похожи на ловушку: мы не можем ни повлиять на них, ни избежать их.

Отмена раздела 230 не станет панацеей. В некотором смысле он защищает свободу слова пользователей в интернете и позволяет цифровым платформам существовать в том виде, в каком мы их знаем, избегая судебных исков за любое оскорбление или обвинение. Однако появились предложения по его изменению. В октябре 2021 года, после раскрытия Хаген документов Фейсбука, законодатели в палате представителей инициировали закон под названием “Закон о правосудии в отношении вредоносных алгоритмов” (Justice Against Malicious Algorithms Act, или JAMA). Этот законопроект предусматривает “отмену защиты от ответственности согласно разделу 230, когда онлайн-платформа сознательно или по неосторожности использует алгоритм или другую технологию для рекомендации контента, который существенно способствует нанесению физической или тяжелой эмоциональной травмы”. Он отменяет защиту со стороны раздела 230 в случае “персонализированных рекомендаций, основанных на информации, специфичной для конкретного человека”. Этот законопроект не распространяется на результаты, полученные при собственном поиске пользователей (например, при запросе в Google), или такие услуги, как хостинг и хранение данных, которые лежат в основе социальных сетей, – подобные аспекты являются более нейтральными и лучше подходят под первоначальную цель раздела 230.

В феврале 2023 года Верховный суд провел слушания по делам Гонсалес против Google и Твиттер против Таамнех, в котором семья жертвы очередного теракта ИГИЛ подала в суд на Твиттер, Google и Фейсбук в соответствии с Законом о борьбе с терроризмом, утверждая, что компании размещали и рекомендовали пользователям контент, связанный с ИГИЛ, тем самым оказывая реальную поддержку этой террористической группировке. В начале заседания судья Елена Каган не преминула пошутить, что суд не разбирается в вопросах, связанных с цифровыми платформами. “Это не девять величайших экспертов по интернету”, – заметила Каган, вызвав волну смеха в зале суда. Однако она также указала на доминирующее влияние алгоритмической подачи информации: “Каждый раз, когда кто-нибудь рассматривает что-либо в интернете, в этом задействован алгоритм”, – заявила она. Судьи вникали в использование и возможности алгоритмических рекомендаций и обсуждали, можно ли считать алгоритмы “нейтральными” (я бы утверждал, что нет), однако ощущалось общее непонимание. Адвокат истца Эрик Шнаппер мучительно запинался, описывая такие базовые элементы интернета, как превью видеороликов на Ютьюбе. В мае 2023 года Верховный суд постановил, что технологические компании не несут ответственности, тем самым снова поддержав наиболее строгую интерпретацию раздела 230.

При кардинально измененном разделе 230 наши ленты станут выглядеть совершенно иначе. Социальные сети будут вынуждены взять на себя ответственность за каждый фрагмент контента, получающий алгоритмическое продвижение на сайте. Возможно, они приспособятся к этому, выведя большую часть контента за рамки рекомендаций: это означает, что пользователям придется целенаправленно отслеживать или искать ту или иную тему. Контент с сохраняющимся алгоритмическим продвижением начнут проверять, чтобы убедиться, что он является совершенно безобидным – скажем, клипы с милыми выходками домашних любимцев и новости, создающие хорошее настроение. Выбор будет зависеть от коллективного восприятия, что считать приемлемыми или нейтральными новостями. (Такой контент все равно станут отфильтровывать с помощью единого наложенного фильтра.) Например, окажется невозможным широкий спектр нишевых рекомендаций ТикТока. Можно представить себе ленту ТикТока, состоящую только из клипов, которые могли бы вписаться в безобидное телешоу “Самые смешные домашние видео Америки” (America’s Funniest Home Videos). Это по-прежнему было бы забавно, но при этом вряд ли вызывало бы привыкание или приводило к манипуляциям. Модерирование контента должно быть гораздо строже.

Изменение баланса в пользу линейного контента, предлагаемого по выбору пользователя, а не за счет автоматических рекомендаций, может оказаться хорошим решением, если позволит ограничить возможное распространение вредных материалов в Сети. Но в этом случае интернет окажется гораздо более цензурированным и неизбежно более медленным. Проблема сводится к тому, чтобы определить, какие виды контента должны путешествовать по Миру-фильтру быстро и беспрепятственно, а какие следует замедлить или полностью остановить.

Если 2000-е годы ознаменовались появлением мейнстримного интернета, а 2010-е – ростом и доминированием огромных цифровых платформ, то следующему десятилетию, похоже, снова будет свойственна децентрализация. Не исключено, что ключевым словом станет “агентность” – возможность для отдельного пользователя самостоятельно определять, как ему публиковать и просматривать контент[81]. Я надеюсь на интернет, который будет больше похож на Geocities – с повсеместными проявлениями индивидуальности и персонализации, однако с теми мультимедийными инновациями, которые сделали его таким привлекательным в 2020-е годы. Это будет более суматошное и более веселое место – скорее игровая площадка или песочница, нежели офисные кабинки, на которые интернет походит сейчас.

Намек на возможное будущее – программное обеспечение с открытым исходным кодом, такое как Mastodon, позволяющее пользователям создавать и поддерживать свои собственные социальные сети наподобие Твиттера. Однако Mastodon также демонстрирует некоторые недостатки такой инфраструктуры. Аудитория на самостоятельных платформах меньше, а