Добрый самаритянин. Грядет ли эпоха мировой интернет-цензуры

Стратегия

Добрый самаритянин. Грядет ли эпоха мировой интернет-цензуры

Как и почему будут модерировать контент крупнейшие интернет-площадки

Поделиться
Запинить
Отправить

Перевод аналитической статьи из блога stratechery.com.

В начале августа Мэтью Принс, генеральный директор Cloudflare, заявил в своем блоге, что его компания перестает оказывать услуги безопасности для форума 8chan.

Именно на 8chan, созданному как альтернатива анонимному 4chan (по мнению общественности, тот был слишком жестким), подозреваемый в терроризме боевик опубликовал информацию с подробным описанием своих действий. Он рассказал о своих планах, прежде чем совершить убийство двадцати человек в Эль Пасо. Это был третий подобный инцидент в минувшем году: похожей информацией делились террористы в Крайстчерче, Новой Зеландии и Калифорнии — 8chan допускал к публикации любую запись с таким содержанием.

Сложно вообразить более скандальное интернет-сообщество, чем 8chan. Большинство людей с удивлением обсуждали факт сотрудничества Cloudflare с таким сомнительным сайтом, особенно в период подготовки ими ПО. В связи с этим возникает вопрос, почему Cloudflare так долго тянули с заявлением?

Нюансы модерации

Сейчас все больше технологических компаний задают вопрос: «Как модерировать контент и как блокировать нежелательную информацию?». В разном контексте похожий контент может разительно отличаться по своему воздействию. Вот лишь несколько недавних громких примеров:

  • Cloudflare прекратил техническую поддержку для 8chan.

  • Заблокирован аккаунт журналиста-конспиролога Алекса Джонса в Facebook.

  • Конгресс США подготовил законопроект с нормами приличия в обществе, нацеленный на «прекращение сексуального рабства».

  • Интернет-провайдеров исключила из так называемой классификации Title II администрация президента США.

  • Европейский Союз решил, что «Право на забвение» должно применяться и к сервисам Google.

Какая связь между этими событиями? Все они относятся к проблеме модерации: следует ли модерировать контент или нет, какая именно информация подлежит запрету, у кого есть на это право и почему? В то же время каждый из этих примеров уникален, и эти различия могут помочь компаниям создать основу для принятия правильных решений, чтобы в будущем избежать ошибок.

CLOUDFARE
компания США, продающая CDN-услуги, защиту от DDos и DNS-серверы.

Контент и закон

Когда идет речь о контенте, сразу встает вопрос о его законности. Если содержание текста нарушает закон, текст нужно удалить. Как правило, на практике так и происходит: интернет провайдеры удаляют нелегальный контент, как только узнают о его существовании. При этом поставщики услуг не должны искать способы, чтобы, обойдя закон, допустить публикацию запрещенного материала.

Лучше понять, что происходит сейчас, поможет прецедент 1991 года. Тогда пылал ажиотаж вокруг судебного дела «Cubby vs. CompuServe». Провайдер CompuServe организовал несколько форумов, на которых предположительно оклеветали компанию Cubby, Inc, и Cubby подали в суд за клевету. Однако федеральный судья вынес постановление о том, что CompuServe просто распространял информацию, но не был ее источником. Судья отметил:

«Прежде чем нести ответственность за публикуемую информацию, распространитель контента должен знать его содержание. Компания CompuServe не имеет в своем штате редактора, который бы мог осуществлять контроль над всеми издаваемыми ими публикациями. Соответственно, CompuServe не несет большей ответственности за ложную информацию, чем любой такой же дистрибьютор контента в интернете».

Спустя четыре года банковская компания Stratton Oakmont, инвестировавшая тогда в ценные бумаги, подала в суд на онлайн-сервис объявлений Prodigy за клевету. По своему содержанию дело было поразительно похоже на историю с Cubby и CompuServe, однако теперь уже ответчик, Prodigy проиграл процесс. Вот как комментируют итог опытные юристы:

«Главное отличие CompuServe от Prodigy лежит в двух аспектах. Во-первых, Prodigy позиционировали себя как компанию, которая четко контролирует содержание объявлений на их сайте. Во-вторых, Prodigy реализовывал этот контроль с помощью специальной программы автоматического сканирования вредоносного ПО и сомнительного контента. Например, Prodigy регулярно и неоднократно применяли строгие правила и накладывали запрет на публикацию информации, которая противоречила правилам площадки. Другими словами, в отличие от CompuServe, в компании Prodigy был человек, который должен был обеспечить редакторский контроль. На этом основании Суд сделал вывод, что Prodigy является в большей степени издателем, чем распространителем и поэтому вынесли им обвинение».

Процесс модерирования любого пользовательского контента на своих форумах сделал Prodigy ответственным за всю публикуемую им информацию.

Инцидент подтолкнул многие похожие сервисы отменить опцию модерации контента, чтобы иметь возможность в случае возникновения спорной ситуации уйти от ответственности и позиционировать себя простыми распространителями материалов.

Появилась потребность сделать модерацию контента юридически жизнеспособной. Это произошло благодаря положению «Добрый самаритянин». Вот небольшая выдержка из устава:

«Защита, которую гарантирует «добрый самаритянин» в отношении блокировки и проверки оскорбительных материалов:

  • Отношение к издателю или докладчику

Ни один поставщик или пользователь любого онлайн-сервиса не должен рассматриваться как издатель или носитель какой-либо информации, предоставленной другим поставщиком информационного контента.

  • Гражданская ответственность

Ни один провайдер или пользователь любого онлайн-сервиса не несет ответственность за:

  1. Любое действие по ограничению доступа к контенту, который провайдер или сам пользователь считает непристойным, похотливым, грязным, содержащим сцены насилия, в независимости от того, законный материал или нет.
  2. Любое действие, предпринятое для предоставления поставщикам информационного контента средств ограничения доступа к материалам, описанным в первом пункте.

Говоря простым языком, теперь закон не гарантирует владельцам интернет-ресурсов освобождение от ответственности за отсутствие модерации. Не признается и нейтралитет в этом вопросе. Нужно понимать, что Конгресс ограничен в своих действиях, особенно в вопросах морали и норм приличия. Сейчас получается, что интернет-издания должны модерировать издаваемый ими контент, если он содержит незаконные материалы. Однако указывать, какой именно контент должен подвергаться модерации, правительство не может.

Единственное оружие, которое есть у Конгресса — поправки, внесенные в законодательство, в том числе в раздел 230. К примеру, закон SESTA-FOSTA, принятый в 2018 году, предусматривает ответственность интернет-платформ за публикацию любой информации, связанной с сексуальной торговлей людьми. В результате все ресурсы немедленно удалили материалы, так или иначе связанные с секс-индустрией. Cloudflare прекратил поддержку социальной сети для работников интимной сферы Switter.

Теперь провайдерам проще подвергнуть цензуре большую часть контента, нежели упустить что-то из вида и понести ответственность.

Стек

Когда встает вопрос о том, какой контент провайдерам следует подвергнуть модерации или вообще запретить, нужно понимать, о каких именно поставщиках услуг идет речь. Всех их можно представить в виде стека — нескольких организаций, представляющих собой список элементов, организованных по принципу LIFO (англ. last in — first out, «последним пришёл — первым вышел»). На вершине этого стека находятся поставщики услуг контента, который люди публикуют напрямую: это Facebook, YouTube, Reddit, 8chan и другие социальные сети. Все эти платформы подразумевают абсолютную свободу действий в вопросе модерации. Однако ни одна из этих платформ не обладает правами запретить одному и тому же пользователю публиковать информацию на другом ресурсе. Например, если аккаунт заблокировали на Facebook, он может продолжить свою деятельность в Twitter или даже создать свой собственный веб-сайт.

С другой стороны, интернет-провайдеры также могут быть связаны разными обстоятельствами. Не смотря на то, что поставщики интернет услуг не подвергаются действию раздела закона о связи, который обязует издательства сортировать данные на основе содержания контента, их политика модерации достаточно жесткая, особенно по отношению к информации экстремистского и порнографического содержания.

Кстати, рассматривать позиции интернет площадок, которые находятся в таком стеке, можно с разных сторон: верхушка стека связана с вещанием, охватывающим колоссальную аудиторию — с одной стороны пользователи имеют право говорить, все что угодно, но нет никакой гарантии, что эта информация не будет заблокирована. По сути получается, что чем ниже в этом списке находится провайдер, тем больше шансов у пользователя получить возможность беспрепятственно публиковать любую информацию, не неся ответственности за ее содержание.

Обратите внимание, как проходит модерация на Facebook и YouTube. Их решения о блокировке аккаунта принимаются не в контексте права на свободу слова, а скорее, как дискреционные решения, принимаемые пиар менеджерами, которые стремяися привлечь больше пользователей. Таким образом появляются небольшие площадки, которые пытаются составить конкуренцию Facebook или Google, давая возможность заблокированным там пользователям пойти куда-то еще.

Решение Cloudflare

Решение, которое приняли Cloudflare было сложно реализовать раньше по целому ряду причин.

Не смотря на то, что Cloudflare не является интернет-провайдером, их деятельность ориентирована на пользователей сети нтернет. Во время сотрудничества с 8chan, Cloudflare предоставлял услуги по защите платформы от DDoS атак. Без этой защиты, 8chan вероятнее всего не смогли бы просуществовать и нескольких дней. Следует отметить, что очень многие пользователи сети неоднократно и активно выражали свой протест против существования 8chan. Большинство настаивали на том, что власти США должны пересмотреть вопрос о сетевом нейтралитете и внести необходимые поправки в законодательство.

В этом есть здравый смысл, ведь разница между компанией, которая оказывает услуги по обслуживанию сайтов и интернет платформой в вопросах ответственности за размещенный ими контент колоссальна. В первом случае, организация не несет никакой ответственности за содержание сайта перед пользователями. Именно эту информацию постарался донести до людей генеральный директор Cloudflare Мэтью Принс в своем интервью Stratechery:

«Нас позиционируют как рьяных борцов за свободу слова, однако это не имеет никакого отношения к данному делу. В США существует порядок правовой процедуры и неоспоримое верховенство закона. Эти принципы установлены для того, чтобы дать правительственным органам легитимность: прозрачность, последовательность, подотчетность. Если вы посещаете Германию и произносите фразу „Первая поправка“, все скептически закатывают глаза, но если вы говорите о верховенстве закона, то с вами сразу соглашаются. Я всегда думал, что люди осознают — чем ниже их положение в стеке, тем более проблематично осуществлять контроль за контентом.»

Кроме того, все интернет-компании должны быть обеспокоены произошедшим прецедентом. Ведь получается, что их деятельность будет рассматриваться в разных странах в зависимости от местных законов. В одной стране человек считается борцом за свободу и идеалы, а в другой этого же человека называют террористом. Тоже самое можно сказать о 8chan и его технической поддержки со стороны поставщика услуг Cloudflare.

Не исключено, что в определенный момент 8chan вернутся благодаря сторонней помощи, возможно даже с другим именем. Тогда в чем смысл нынешнего запрета? Это на самом деле вызывает некоторую обеспокоенность общественности. Однако, следует учитывать тот факт, что поклонники ресурса могут найти способы, чтобы обойти блокировку и продолжить пользоваться сайтом. Также нет никакой гарантии, что платформа не наберет популярность после своего вероятного возвращения.

Интернет хоть и является огромным цифровым миром, где встречаются и общаются люди из разных уголков нашей планеты, тем не менее он должен иметь свои рамки и законы. Человек, который пытается донести в массы аморальные вещи, может сколько угодно делать это рядом со своим домом, в реальном физическом мире, но в сети его действия должны быть ограничены. Компания, которая занимается поставкой облачных услуг должна самостоятельно принимать решение, стоит ли сотрудничать с тем или иным сайтом. Именно так и поступили в компании Cloudflare.

Серый нейтралитет

Общественность требует определить четкие рамки для модерации контента, какую именно информацию необходимо запрещать. Однако на сегодняшний день определенных границ просто не существует, особенно в Соединенных Штатах.

Можно наложить определенные обязательства на так называемые нейтральные области. Платформы, которые ориентированы на широкую публику должны нести ответственность за качество предлагаемого людям контента. В этом случае строгая модерация вполне оправдана, также, как и блокировка пользователей, которые нарушают политику сайта. Между тем, компании, которые занимаются обслуживанием и поддержкой интернет платформ, например, такие как компания Cloudflare, должны в первую очередь соблюдать законность своей деятельности.

Тем временем государство обязано не только поощрять конкуренцию между провайдерами, но и давать четкое определение, что является в их деятельности законным, а что под запретом. Например, для Германии вполне закономерно введение запрета на веб-сайты с нацистским содержанием. Однако, такие инициативы, как Европейская директива об авторском праве, вносят некоторые противоречия в определение законности того или иного материала. Из-за этого часто возникают спорные ситуации вплоть до судебных разбирательств.

Сейчас интернет занимает важное место в жизни каждого гражданина практически любой страны. Очень важно не совершить ошибок в принятии целевых решений, поэтому серый нейтралитет является наиболее правильной позицией в отношении определения содержания контента.

Поделиться
Запинить
Отправить
Facebook YouTube Telegram