Мир-фильтр. Как алгоритмы уплощают культуру - Кайл Чейка

алгоритмических лент, они также не отвечают и за то, что эти ленты продвигают, – они как бы отделяют себя от результатов работы своих рекомендательных систем. Подобную возможность дал им принятый в 1996 году в США Закон о телекоммуникациях, который включал в себя Закон о соблюдении приличий в сфере коммуникаций, содержавший раздел 230. Этот раздел 230 обеспечил экспоненциальное развитие интернета на протяжении последних десятилетий, и без него наш цифровой мир не был бы прежним. Однако в эпоху социальных сетей он также позволил технологическим компаниям, вытеснившим традиционные медиакомпании, работать без ограничений, положенных обычным СМИ. Раздел 230 определяет различие между открытой платформой, такой как Фейсбук, и тем, что на ней публикуют пользователи. “Ни один предоставитель или пользователь интерактивного компьютерного сервиса не должен рассматриваться как издатель или распространитель в отношении любой информации, предоставленной другим предоставителем информационного контента”, – говорится в законе. Это важное различие, поскольку “издатели” несут юридическую ответственность за публикуемый ими контент: если, например, журнал напечатает о ком-нибудь клевету, его можно привлечь к суду. Напротив, Фейсбук может игнорировать такие риски, потому что с технической точки зрения контент публикует пользователь, а не платформа.

Поводом для появления раздела 230 стали два судебных разбирательства 1990-х годов. В 1991 году произошел конфликт между двумя цифровыми медиакомпании. Компания Роберта Бланшара Cubby Inc., издатель новостного сервиса под названием Skuttlebutt, подала в суд из-за бюллетеня Дона Фитцпатрика Rumorville, поскольку там появилась статья, порочащая Skuttlebutt. Доступ к Rumorville осуществлялся через онлайн-форум, организованный компанией CompuServe – провайдером домашнего интернета, одним из крупнейших в 1990-е годы. Бланшар подал в суд на саму CompuServe, а также на Фицпатрика. Окружной суд США пришел к выводу, что CompuServe являлась только распространителем, а не издателем предположительно клеветнического контента. Иными словами, CompuServe – в качестве хоста – действовала скорее как газетный киоск или книжный магазин. Она не контролировала содержание публикуемых материалов, а управляла исключительно способом их доставки к потребителям. В одном из судебных дел 1950-х годов уже было вынесено решение, согласно которому книжные магазины не могут проверять каждую книгу, которая проходит через их полки, и поэтому освобождаются от ответственности за содержание продаваемых книг.

Второе дело о распространении цифровой информации имело иной исход. В деле Stratton Oakmont против Prodigy, рассмотренном Верховным судом Нью-Йорка в 1995 году, компания Prodigy Services Company являлась хозяином онлайн-форума, содержавшего площадку для финансовых дискуссий. Один из пользователей Prodigy опубликовал на форуме клеветнические комментарии, направленные против брокерской фирмы Stratton Oakmont, Inc. и ее президента Дэниела Поруша. Это походило на дело Cubby против CompuServe, однако Prodigy была теснее вовлечена в публикацию контента на ее сервисе. На форуме действовали правила размещения информации и существовали системы модерирования, включая автоматическую фильтрацию и людей-модераторов. Суд решил, что в данном контексте Prodigy является издателем, а не распространителем и поэтому несет юридическую ответственность за материалы на своем сайте. Решение суда, в частности, гласило: “Представляется очевидным, что Prodigy принимает решения относительно контента… и такие решения являются редакторским контролем”. Prodigy требовала прекратить дело, основываясь на прецедентном разбирательстве Cubby против CompuServe, но безуспешно.

Эти два судебных дела привели к фундаментальному парадоксу: закон защищал те интернет-сервисы, которые ничего не предпринимали для фильтрации контента, поступающего к пользователям, но при этом не защищал те, которые пытались фильтровать его – пусть даже просто для обеспечения базового качества или безопасности. Любое влияние на контент представляло риск для интернет-компаний. Два члена палаты представителей, Кристофер Кокс и Рон Уайден, решили, что с этим вопросом необходимо разобраться. “Если бы подобное правило устоялось, интернет превратился бы в Дикий Запад, и ни у кого не было бы стимула поддерживать в нем нормальные отношения”, – говорил позже Кокс в интервью Wired. Раздел 230, разработанный Коксом и Уайденом, позволял цифровым платформам становиться посредником при размещении определенного контента, в частности, “непристойного, развратного, похотливого, похабного, чрезмерно жестокого, докучающего или иным образом нежелательного”, не неся ответственности за его публикацию. Кроме того, онлайн-распространители могли “добросовестно” вмешиваться в контент, если это, как им казалось, направлено на общее благо пользователей. Президент Билл Клинтон поставил подпись под разделом 230 в начале 1996 года.

Однако основные социальные сети в 2010-х годах имеют совсем другое отношение к разделу 230. В 1996 году интернет все еще был относительно нишевым явлением: он имел всего шестнадцать миллионов пользователей и играл гораздо меньшую роль в распространении информации. Сегодня Твиттер и Фейсбук разрослись, их аудитория охватывает сотни миллионов людей, потребляющих самые разные формы медиа, от развлечений до новостей.

Социальные сети вытеснили традиционных издателей, поглощая доходы от рекламы, объединяя контент в алгоритмические ленты и выступая посредниками в отношениях между издателями и их потребителями. Как следствие, традиционные медиакомпании ослабли, потеряв большую часть своих доходов по сравнению с прошлыми десятилетиями, а издания теперь вынуждены действовать как ответственные издатели с гораздо меньшим количеством сотрудников. При этом даже в условиях ограниченных возможностей традиционные медиакомпании продолжают нести ответственность за весь опубликованный ими контент, в то же время цифровые платформы могут заявить, что они вовсе не являются медиакомпаниями – в соответствии с разделом 230.

Разница между этими ролями размылась. В новой экосистеме цифровые платформы взяли на себя некоторые функции издателей, решая, какой контент попадет к потребителям. Если CompuServe в рамках судебного разбирательства могла заявить о своей нейтральности, поскольку не влияла на публикации Rumorville, то у Фейсбука гораздо меньше возможностей говорить о нейтральной позиции. Кураторские действия алгоритма аналогичны выбору газеты, какие статьи поместить на первую полосу. Раздел 230 служит щитом, сохраняющим дистанцию между социальными сетями и тем, что отдельные пользователи публикуют на платформах – от расследований #MeToo до расистских комментариев или угроз насилия. Скептическое отношение к этому закону растет, и судебные иски пытаются взвалить на социальные сети ответственность за распространяемые материалы.

В ноябре 2015 года в Париже произошла серия терактов, ответственность за которые позже взяло на себя “Исламское государство” (ИГИЛ)[80]. Погибли сто тридцать человек, в том числе двадцатитрехлетняя американская студентка Ноэми Гонсалес. Семья Гонсалесов возложила ответственность за смерть девушки на Google, Твиттер и Фейсбук (в частности, на принадлежащий Google Ютьюб) – поскольку эти компании через алгоритмические рекомендации продвигали среди своих пользователей контент, связанный с ИГИЛ, и тем самым сыграли определенную роль в радикализации парижских террористов. По сути, они в какой-то степени должны отвечать как за то, что размещалось на их платформах, так и за то, каким образом это доводилось до зрителей. Поначалу иск отклонили на том основании, что Google не оказывает