Координированные вредоносные действия

Обзор

Январь 2021 г.

Правила Твиттера существуют для того, чтобы обеспечить всем возможность свободно и безопасно участвовать в общественном диалоге. В некоторых случаях мы обнаруживаем группы, движения или кампании, осуществляющие координированную деятельность, которая наносит наносит вред в Твиттере и за его пределами. Мы оцениваем эти группы, движения или кампании, используя аналитическую платформу, и принимаем соответствующие меры в Твиттере, если будет установлено, что их действия наносят вред. В этой статье рассказывается, как мы проводим такие оценки и что происходит, если мы устанавливаем, что группа совершает скоординированные вредоносные действия.

Скоординированные вредоносные действия рассматриваются на уровне исполнителей, то есть мы оцениваем группы, движения и кампании, а затем реализуем принудительные меры в отношении учетных записей, которые, по нашим сведениям, связаны с ними. Чтобы действовать в рамках описанной концепции, мы обязаны найти доказательства того, что лица, связанные с группой, движением или кампанией, тем или иным образом координируют свои действия и в результате этих действий наносится вред другим. 

Как мы определяем координацию?

В рамках этой концепции мы оцениваем два аспекта координирования: технический и социальный.

• Техническое координирование подразумевает использование определенных идентифицируемых техник манипулирования платформой с целью искусственного увеличения просмотров или распространения сообщений или материалов в Твиттере. Например, если одно лицо использует несколько учетных записей, чтобы твитить одно и то же сообщение со всех своих учетных записей, это действие расценивается как техническое координирование. В правилах в отношении манипулирования платформой и спама описаны различные виды запрещенного технического координирования в Твиттере.
  
• Социальное координирование — координирование действий группы людей в Твиттере или за его пределами с целью увеличения просмотров или распространения определенного сообщения. Например, если группа людей использует приложение для обмена сообщениями, чтобы провести кампанию и опубликовать множество твитов о какой-либо проблеме одновременно, это расценивается как социальное координирование. Еще одной формой социального координирования является использование Твиттера с целью побудить читателей сказать или сделать определенную вещь, например ответить грубостью другому пользователю. Такая практика получила название «куча-мала».
  

Правила Твиттера запрещают любые формы технического координирования. Если мы сможем доказать, предоставив достаточные доказательства (например, технические связи между учетными записями) того, что лицо или группа участвует в техническом координировании, мы всегда принимаем в их отношении принудительные меры — как правило, речь идет о приостановке действия учетных записей, участвующих в таком координировании. 

Не все формы социального координирования являют собой нарушение Правил. Мы вряд ли будем применять эту концепцию в отношении групп, движений и кампаний, демонстрирующих гражданскую активность, говорящих правду перед лицом власти, участвующих в кампаниях по повышению осведомленности и других аналогичных видах действий, если не получим достаточных доказательств вреда такой деятельности.

Как мы определяем вред?

Все наши политики нацелены на профилактику, снижение вреда и (или) реагирование на определенный, установленный вред. Виды потенциального вреда от поведения в сети весьма разнообразны; оценивая вред в рамках этой концепции, мы рассматриваем три основные формы вреда: физический, психологический и информационный. Все эти виды вреда отражены в Правилах Твиттера.
 

Физический

Вред, заключающийся в отрицательном физическом воздействии на кого-или или что-или, на социальные группы или общество в целом. Сюда относится наносящее вред поведение, описанное в наших политиках в отношении насилия, терроризма, воинствующего экстремизма, детской порнографии, оскорблений и притеснений, выражения ненависти, самоубийства и причинения себе вреда.
 

Психологический

Вред, наносимый лицу и его умственному и эмоциональному состоянию и психике или состоянию социальных групп и общества. Сюда относится наносящее вред поведение, описанное в наших политиках в отношении оскорблений и притеснений, выражения ненависти, самоубийства и причинения себе вреда, конфиденциальной информации и изображения обнаженной натуры без согласия изображенных лиц.
 

Информационный

Вред, который отрицательно сказывается на способности индивида осуществлять доступ к информации, необходимой для реализации его прав, или серьезно подрывает стабильность и (или) безопасность социальной группы или общества, включая распространение неправильной медицинской информации, например о COVID-19. Сюда относится наносящее вред поведение, описанное в наших политиках в отношении честности общественных мероприятий, искусственно созданных или специально обработанных медиафайлов и манипуляции функциями платформы и спама.
 

Кроме того, мы принимаем во внимание серьезность наносимого вреда. Серьезность может быть низкой, средней или высокой.
 

Низкая

• Вред, причиняемый лицами и теми, кто их поддерживает, не фиксируется документально или ограничен в количестве/частоте, его последствия носят менее серьезный характер
• Источники, подтверждающие, что лица (и те, кто их поддерживает), связанные с этой группой, нанесли вред и указывающие, какой именно вред они нанесли, малочисленны или отсутствуют
• Если не проводить дальнейших проверок, вероятность нанесения вреда практически нулевая

Средний

• Вред, причиняемый лицами и теми, кто их поддерживает, фиксируется документально, однако его последствия, как правило, не носят серьезный характер и (или) малы по количеству и периодичности
• Существует множество надежных источников в открытом доступе, которые подтверждают, что лица (и те, кто их поддерживает), связанные с этой группой, нанесли вред
• Если не проводить дальнейших проверок, вероятность нанесения еще более значительного вреда умеренная

Высокий

• Вред, причиняемый лицами и теми, кто их поддерживает, существенный по количеству/частоте или носит серьезный характер
• Доступны многочисленные источники, подтверждающие, что соответствующие лица (и те, кто их поддерживает) нанесли чрезвычайный (по частоте или серьезности) вред. Кроме того, доступны многочисленные примеры того, какой вред был нанесен
• Если не проводить дальнейших проверок, вероятность нанесения еще более значительного вреда очень высока

Как мы используем нашу концепцию для оценки вреда?

Мы используем нашу концепцию, чтобы оценить и понять влияние активности группы на платформе и за ее пределами по трем типам вреда и уровням серьезности, перечисленным выше. При оценке вреда, который, возможно, был нанесен участниками группы, мы ищем доказательства вреда, причиненного на платформе Твиттера и за ее пределами. Как правило, группа, участвующая в деятельности, которая наносит вред, серьезность которого можно охарактеризовать как высокую, по меньшей мере в одной из категорий (или вред средней серьезности в нескольких категориях), считается, согласно этой концепции, группой, которая причиняет вред.

В ходе этих оценок мы задаем себе несколько вопросов, включая следующее:

• Речь идет об идентифицируемой группе с единой целью или однократной кампании с понятной целью?
• По каким параметрам поведение группы или действия в рамках кампании в Твиттере или за его пределами можно отнести к скоординированным действиям?
• Какими путями лица, связанные с этой группой, нанесли вред по выделенным нам 3 категориям?
• Каковы риски применения этой политики в отношении этой деятельности, включая потенциальное воздействие на свободу слова и свободу собраний?
   

Мы не забываем о том, что примеры вреда могут различаться в зависимости от деятелей, групп, регионов и культур. Разные виды вреда могут противоречить друг другу либо ожидаемым преимуществам или правам, связанным с конкретной активностью. Когда возникают такие конфликты, для нас в приоритете — физическая и психологическая безопасность. Следовательно, вероятность нашего вмешательства выше, если то или иное действие наносит физический или психологический вред другим людям. 

Принудительные меры по борьбе с координированными вредоносными действиями

В рамках этой концепции мы оцениваем как скоординированность действий, так и вред от них, как было описано ниже, чтобы установить группу, движение или кампанию, которые участвовали в координированных вредоносных действиях. Мы регулярно рассматриваем решения, вынесенные по конкретным исполнителям, и можем менять или отзывать их в зависимости от поведения группы в Твиттере и за его пределами.

Если мы установим, что группа, движение или кампания соответствует критериям отнесения ее к участникам координированных вредоносных действий, мы можем предпринять следующие меры в отношении твитов и (или) учетных записей, которые мы идентифицируем как связанные с соответствующей группой:

• Ограничение видимости твитов и (или) учетных записей в результатах поиска, ответах и лентах
• Отсутствие возможности рекомендовать твиты и (или) учетные записи по электронной почте или в составе рекомендаций в товарах
• Неотображение актуальных тем, непосредственно связанных с группами, которые участвуют в скоординированных вредоносных действиях
• Приостановка действия учетных записей, которые в основном используются для распространения и (или) поощрения участия в скоординированных вредоносных действиях

Мы выявляем учетные записи, связанные с группой, на регулярной основе и по мере поступления, сочетая различные технологии и проверку человеком и учитывая такие аспекты, как недавнее поведение в Твиттере или информация в профиле. Ограничение видимости твитов и (или) учетных записей в соответствии с этой концепцией перестают действовать автоматически по истечении ограниченного времени, однако могут быть применены повторно (вручную или автоматически), если мы установим, что учетные записи продолжают демонстрировать поведение, ставшее причиной вынесенного решения.

Любые учетные записи, участвующие в скоординированных вредоносных действиях, также могут подвергаться принудительным действиям согласно Правилам Твиттера. Принудительные действия с нашей стороны в ответ на нарушение наших правил включают, но не ограничиваются следующим:

• Требование удалить определенные твиты, нарушающие Правила Твиттера
• Приостановка действия учетных записей, замеченных в серьезных или многократных нарушениях Правил Твиттера

Подробнее о наших мерах воздействия на нарушителей и о нашем подходе к разработке политик и контролю за их исполнением.