Atividade prejudicial coordenada

Visão geral

Janeiro de 2021

As Regras do Twitter existem para que as pessoas possam participar da conversa pública de forma livre e segura. Em alguns casos, identificamos grupos, movimentos ou campanhas envolvidos na atividade coordenada, resultando em danos dentro e fora do Twitter. Adotamos um modelo analítico para avaliar esses grupos, movimentos ou campanhas e aplicamos consequências específicas no Twitter, caso determinemos que são prejudiciais. Este artigo explica como realizamos essas avaliações e o que acontece quando identificamos que um grupo está envolvido em atividade prejudicial coordenada.

Na atividade prejudicial coordenada, avaliamos grupos, movimentos e campanhas e aplicamos medidas corretivas em quaisquer contas que identifiquemos como associadas a tais entidades. Segundo esse modelo, para agir devemos encontrar evidências tanto de que as pessoas associadas a um grupo, movimento ou campanha estão envolvidas em alguma forma de coordenação quanto de que os resultados de tal coordenação estão causando danos a outras pessoas. 

Como definimos coordenação?

Segundo essa estrutura, avaliamos dois aspectos da coordenação: técnico e social.

• Coordenação técnica refere-se ao uso de técnicas específicas e detectáveis de manipulação da plataforma para realizar inflação artificial ou propagação de uma mensagem ou narrativa no Twitter. Por exemplo, se uma única pessoa operar várias contas e enviar um Tweet com a mesma mensagem de todas essas contas, isso seria considerado coordenação técnica. As regras de manipulação da plataforma e spam descrevem as diferentes formas de coordenação técnica proibidas no Twitter.
  
• Coordenação social refere-se à coordenação dentro ou fora do Twitter entre um grupo de pessoas para amplificar ou propagar uma mensagem específica. Por exemplo, se um grupo de pessoas, usando um aplicativo de mensagens, organizasse uma campanha ao mesmo tempo para cada Tweet sobre um determinado assunto, isso seria considerado coordenação social. Outra forma de coordenação social seria uma pessoa usar o Twitter para incitar os seguidores a dizer ou fazer uma coisa específica, como responder a outra pessoa com uma mensagem abusiva – prática conhecida pelo termo em inglês “dogpiling”.
  

Todas as formas de coordenação técnica são proibidas pelas Regras do Twitter. Se pudermos provar com evidências suficientes (como ligações técnicas entre contas) que um indivíduo ou grupo se envolveu em coordenação técnica, sempre tomaremos medidas corretivas – que geralmente assumem a forma de suspensão definitiva das contas envolvidas. 

Nem todas as formas de coordenação social constituem violação das Regras. É improvável que apliquemos essa estrutura a grupos, movimentos e campanhas envolvidos em ativismo, confronto à posição de quem está no poder, envolvimento em campanhas de conscientização ou outras atividades semelhantes, a menos que possamos comprovar danos.

Qual a nossa definição de danos?

Cada uma das nossas políticas se destina a evitar, mitigar e/ou reagir a danos específicos e conhecidos. Existe uma grande variedade de danos potenciais que podem ser ligados a um comportamento online. Com base no modelo, analisamos as três principais formas de danos: físicos, psicológicos e à informação. Esses danos estão refletidos nas Regras do Twitter.
 

Físicos

Danos que têm efeito físico negativo sobre algo ou alguém, ou sobre grupos sociais ou a sociedade como um todo. Inclui-se aí comportamento nocivo que se encaixe nas nossas políticas sobre violência, terrorismo e extremismo violento, exploração sexual de menores, abuso e assédio, conduta de propagação do ódio e suicídio ou automutilação.
 

Psicológicos

Danos concentrados em um indivíduo e seu bem-estar mental e emocional, ou o bem estar de grupos sociais ou da sociedade como um todo. Inclui-se aí comportamento nocivo previsto nas nossas políticas sobre abuso e assédio, conduta de propagação do ódio, suicídio ou automutilação, informações privadas e nudez não consensual.
 

À informação

Danos que afetam de forma adversa a capacidade de um indivíduo acessar informações fundamentais para exercer os próprios direitos, ou que prejudicam de forma significativa a estabilidade e/ou segurança de um grupo social ou sociedade, incluindo desinformações médicas, como sobre a COVID-19. Inclui-se aí comportamento nocivo capturado nas nossas políticas sobre integridade cívica, mídia sintética e manipulada e manipulação de plataforma e spam.
 

Além disso, levamos em consideração a gravidade dos danos identificados. A gravidade pode ser baixa, moderada ou alta.
 

Baixa

• Os prejuízos causados por indivíduos/apoiadores não são documentados ou são limitados em número/frequência e/ou não são de natureza grave
• Há pouca ou nenhuma fonte que confirma que os indivíduos/apoiadores vinculados a este grupo causaram prejuízo, ou qual prejuízo causaram
• Se não controlados, a probabilidade de danos é quase inexistente

Moderada

• Os danos causados por indivíduos/apoiadores são documentados, mas podem não ser particularmente graves e/ou podem ocorrer em menor número/frequência
• Existem várias fontes críveis e prontamente disponíveis que estabelecem que indivíduos/apoiadores vinculados a esse grupo causaram danos
• Se não controlados, a probabilidade de mais danos é moderada

Alta

• Os danos causados por indivíduos/apoiadores são extremos, seja em número/frequência ou gravidade
• Existem várias fontes que confirmam que indivíduos/apoiadores causaram danos extremos (em frequência ou gravidade), além de vários exemplos dos danos causados
• Se não controlados, a probabilidade de mais danos é quase certa

Como usamos nosso modelo para avaliar os danos?

Usamos nosso modelo para avaliar e entender o impacto da atividade de um grupo, dentro e fora da plataforma, levando em consideração os três tipos de danos e níveis de gravidade apresentados anteriormente. Ao avaliarmos os danos potencialmente causados por membros de um grupo, buscamos evidências de danos ocorridos dentro e fora do Twitter. No geral, segundo este modelo, serão considerados prejudiciais grupos envolvidos em atividades com danos de alta gravidade em pelo menos uma categoria ou envolvidos em várias atividades com danos de gravidade moderada.

Para tais avaliações, nós nos fazemos várias perguntas, como:

• Trata-se de um grupo identificável com um propósito unificado ou uma campanha única com uma meta clara?
• O comportamento do grupo ou da campanha dentro ou fora do Twitter é considerado atividade coordenada?
• De que formas os indivíduos associados a esse grupo causaram danos nas nossas três categorias?
• Quais são os riscos de aplicar esta política a tal atividade? Incluem-se aí potenciais impactos sobre direitos de fala ou associação.
   

Temos em mente que exemplos de danos podem diferir de caso a caso, em diferentes grupos, localidades e culturas. Diferentes danos podem entrar em conflito entre si mesmo ou com os benefícios percebidos ou direitos associados à atividade. Quando surgirem tais conflitos, priorizaremos a segurança física e psicológica. Desse modo, a maior probabilidade é de intervirmos no ponto em que identificarmos que a atividade está acarretando danos físicos ou psicológicos a outras pessoas. 

Aplicação das regras contra atividade prejudicial coordenada

Segundo essa estrutura, usamos uma avaliação de coordenação e danos, conforme definidos acima, para designar um grupo, movimento ou campanha envolvidos em atividade prejudicial coordenada. Fazemos essas análises regularmente e podemos modificar ou retirar essa designação conforme alterações no comportamento do grupo dentro e fora do Twitter.

Quando determinarmos que um grupo, movimento ou campanha se encaixa nos critérios de envolvimento em Atividade Prejudicial Coordenada, podemos tomar as ações a seguir nos Tweets e/ou contas que identificarmos como associadas ao grupo:

• Limitação da visibilidade dos Tweets e/ou contas nos resultados de busca, respostas e na timeline
• Prevenção da recomendação de Tweets e/ou contas no e-mail ou recomendações dentro do produto
• Prevenção da exibição de assuntos do momento que estejam diretamente vinculados aos grupos envolvidos na atividade prejudicial coordenada
• Suspensão contas cujo uso principal é propagar e/ou incentivar o engajamento em atividade prejudicial coordenada identificada

Identificamos continuamente as contas associadas a um grupo usando uma mistura de tecnologia e análise humana, levando em consideração coisas como comportamento recente no Twitter ou informações do perfil. As limitações sobre a visibilidade dos Tweets e/ou contas aplicadas segundo o modelo expiram automaticamente após um período limitado, mas podem ser reaplicadas (manual ou automaticamente) se determinarmos que as contas continuaram a participar de comportamentos associados com o grupo designado. 

Qualquer conta envolvida em atividade prejudicial coordenada também pode ser submetida a medida corretiva pelas Regras do Twitter. Nossas ações de aplicação de medidas corretivas para violações das nossas regras incluem, mas não de forma exclusiva:

• Exigência da remoção de Tweets específicos que violem as Regras do Twitter
• Suspensão de contas envolvidas em violações graves ou repetidas das Regras do Twitter

Saiba mais sobre as opções de medidas corretivas e nossa abordagem de elaboração de políticas e medidas corretivas.