Парадокс одиночества. Глобальное исследование нарастающей разобщенности человечества и ее последствий - Норина Герц

для модерации контента, мир был бы намного впереди в борьбе с онлайн-ядом, поляризацией, отчуждением и разъединением.

Дело не в том, что они не могут позволить себе сделать больше. С их десятками миллиардов долларов дохода и огромными денежными резервами компании социальных сетей обладают огромными возможностями и силой, чтобы добиться перемен. В конечном счете кажется, что они просто не хотят вкладывать деньги, рабочую силу и внимание, которые требуются для действительно эффективных решений. Действительно, похоже, что некоторые мировые технологические лидеры согласились с тем, что определенный объем жалоб, определенный уровень штрафов, возможно, даже определенное количество смертей – это то, что они могут допустить, когда приз такой большой и на карту поставлено так много миллиардов долларов годовой прибыли. Точно так же, как крупные табачные компании решили, что можно продавать вредный продукт, потому что прибыль очень большая, кажется, что гиганты социальных сетей решили, что побочный ущерб, который они причиняют, является приемлемым побочным продуктом их бизнес-модели. Как заметил профессор Заки: «Марк Цукерберг, как известно, призывал своих сотрудников “двигаться быстро и ломать вещи”. К настоящему времени ясно, что они сломали довольно много».

Предоставление платформам самостоятельного регулирования токсичного контента явно не сработало, как теперь признал сам Марк Цукерберг.

Нам нужно зубастое регулирование, чтобы заставить цифровые гиганты реформироваться.

Штрафы, назначенные на сегодняшний день за неспособность немедленно удалить однозначно разжигающий ненависть контент, были настолько низкими, что не имели смысла в контексте гигантской, рекордной прибыли. Крупные правонарушители должны быть оштрафованы на суммы, которые действительно влияют на их прибыль.

Возможно, наконец-то перемены не за горами. После прямой трансляции в Facebook в 2019 году стрельбы в Крайстчерче, Новая Зеландия, в результате которой был убит 51 человек в двух мечетях, Австралия ввела Закон о распространении одиозных насильственных материалов, который предусматривает наложение штрафов в размере до 10 % глобального оборота компании, если она не сможет достаточно быстро удалить «одиозно насильственные» материалы. Несмотря на то, что этот закон применяется на распространение только самого шокирующего контента («убийство или покушение на убийство, террористический акт, пытки, изнасилование или похищение человека»), он является важным законодательным актом в отношении размера штрафа, который налагается на платформы-нарушители. Он даже предполагает тюремное заключение на срок до трех лет для технических руководителей, если они не подчинятся.

Невидимая токсичность

Когда речь заходит о токсичных высказываниях, распространяющихся на этих платформах, которые, очевидно, не поднимаются до уровня ненавистнических высказываний, подстрекательства к насилию или шокирующих материалов, но все еще вызывают сильное беспокойство – например, буллинг, – проблема, по общему признанию, еще более сложная. Пост с травлей, например, может быть на удивление трудно распознаваем, учитывая, как быстро меняется сленг и как юмор может быть использован в качестве меча.

«Паула такая крутая!» может звучать как положительный пост, но если Паула – имеющая избыточный вес заучка без друзей, это может быть формой издевательства.

Выявление того, что считается оскорбительным, с помощью алгоритма практически невозможно, поэтому так необходимы эффективные системы репортов и модераторы контента.

Это не означает, что нет технических решений, когда дело доходит до вежливости в интернете. Платформы социальных сетей могли бы настроить свои алгоритмы, чтобы вознаграждать доброту вместо гнева или гарантировать, что «непредубежденные, позитивные сообщения будут быстрее подниматься в топы», как предлагает профессор Джамиль Заки. По крайней мере, они могли бы настроить свои алгоритмы так, чтобы так быстро не поднимались ярость и гнев. Или как насчет социальных сетей, которые просят людей дважды подумать, прежде чем публиковать что-то угрожающее или токсичное? Это то, что Instagram начал тестировать на нескольких рынках с помощью всплывающих окон, побуждающих пользователей дважды подумать, прежде чем публиковать комментарии, которые ИИ помечает как оскорбительные (например, «Ты такой уродливый и тупой»). Но опять же, без дамоклова меча регулирования, висящего над ними, трудно поверить, что платформы предпримут достаточные шаги, учитывая их не блестящую репутацию и состояние, поставленное на карту.

Здесь тоже, похоже, грядут правовые изменения. Правила, предложенные в январе 2020 года Управлением комиссара по информации Великобритании для защиты детей в интернете, требуют от компаний обеспечения того, чтобы «детям не предоставлялся контент, который наносит ущерб их физическому или психическому здоровью или благополучию». В его реализации компании, которые не соблюдают требования, будут оштрафованы «пропорционально потенциальному или фактическому нанесенному ущербу, а также размеру и доходу компании».

По крайней мере, у технологических компаний должна быть предусмотренная законом «обязанность заботиться» о своих клиентах, которая по закону обязывает их предпринимать разумные шаги, чтобы их платформы не причиняли значительного вреда. Это было бы похоже на обязанность работодателей заботиться о том, чтобы их рабочие места были безопасными для их сотрудников. А если будет установлено, что они не придерживаются этого, то им снова грозят значительные штрафы и наказания.

Это то, за что недавно выступала группа британских депутатов, конкретно ссылаясь на социальные сети и детей, предлагая в отчете за 2019 год, что наряду с «обязанностью проявлять заботу» правительство должно также привлекать директоров технологических компаний к личной ответственности за причинение вреда, вызванного их продуктами, что повторяет недавнее законодательство в Австралии.

Очевидно, что наши правительства могут и должны предпринять определенные шаги.

Нам не нужно мириться с тем, что цифровой поезд покинул станцию, и мы ничего не можем сделать, чтобы изменить его пункт назначения.

Многое можно сделать, чтобы защитить себя и наши сообщества перед лицом больших технологий – если есть политическая воля и политическое давление. И хотя я приветствую новоявленную поддержку регулирования со стороны Facebook, у нас должна быть здоровая доза скептицизма в отношении их активных действий по формированию природы этого регулирования. В конце концов призыв к большему регулированию – в форме, которая выгодна только для самих себя, – был давней стратегией табачных гигантов. Обеспечение того, чтобы компании, работающие в социальных сетях, не пользовались чрезмерным правом голоса при формировании новых правил игры, сейчас важнее, чем когда-либо, учитывая их огромную экономическую и медийную мощь.

Доброта спасет мир

И как отдельные люди, что еще мы можем сделать, кроме признания того, насколько мы зависимы от наших устройств, и попыток ограничить их использование и самим преодолеть боль абстиненции? По крайней мере, если мы решим остаться в социальных сетях, мы должны помнить о потенциально вредных последствиях наших сообщений и быть добрее, когда дело доходит до наших собственных комментариев или репостов. Мы должны попытаться переориентировать наше онлайн-взаимодействие с голосов гнева и разделения, сопротивляться желанию «лайкать» или делиться жестокими сообщениями и уделять больше времени продвижению идей и чувств, которые выражают то, что всех