goglobalwithtwitterbanner

Koordinierte schädliche Aktivitäten

Überblick

September 2020

Die Twitter Regeln sollen sicherstellen, dass sich Menschen frei und sicher an der öffentlichen Unterhaltung beteiligen können. In einigen Fällen identifizieren wir Gruppen, Bewegungen oder Kampagnen, die koordinierte Aktivitäten ausführen, die auf Twitter und außerhalb Schaden hervorrufen. Wir bewerten diese Gruppen, Bewegungen oder Kampagnen anhand eines Analyse-Frameworks und ziehen auf Twitter spezifische Konsequenzen, wenn wir zu dem Schluss kommen, dass sie schädlich sind. In diesem Artikel wird erläutert, wie wir diese Bewertungen durchführen und was passiert, wenn wir beschließen, dass eine Gruppe an koordinierten schädlichen Aktivitäten beteiligt ist.

Das Framework für koordinierte schädliche Aktivitäten zielt auf die Ebene der Akteure ab. Das heißt, wir bewerten Gruppen, Bewegungen und Kampagnen und ergreifen dann Durchsetzungsmaßnahmen für alle Accounts, bei denen wir identifizieren, dass sie mit diesen Einheiten in Verbindung stehen. Um im Rahmen dieses Frameworks Maßnahmen ergreifen zu können, müssen wir Beweise für zwei Aspekte finden: Sowohl dafür, dass Personen, die mit einer Gruppe, Bewegung oder Kampagne in Verbindung stehen, in gewissen Maße koordiniert sind, als auch dafür, dass die Ergebnisse dieser Koordination anderen Schaden zufügen. 

Wie definieren wir Koordination?

Unter diesem Framework bewerten wir zwei Aspekte der Koordination: technische und soziale.

  • Technische Koordination bezieht sich auf die Verwendung spezifischer, nachweisbarer Techniken der Plattformmanipulation, die eine Nachricht oder eine Darstellung auf Twitter künstlich verstärken oder verbreiten sollen. Wenn beispielsweise eine einzelne Person mehrere Accounts betreibt, um die gleiche Nachricht von all diesen Accounts zu twittern, liegt eine technische Koordination vor. Die Regeln für Plattformmanipulation und Spam beschreiben die verschiedenen Formen verbotener technischer Koordination auf Twitter.
  • Soziale Koordination bezieht sich auf Koordination bei einer Gruppe von Personen auf Twitter oder außerhalb, mit der eine bestimmte Nachricht verstärkt oder verbreitet werden soll. Ein Beispiel für soziale Koordination wäre, wenn eine Gruppe von Personen mithilfe einer Messaging-Anwendung eine Kampagne organisiert, bei der jede Person zur gleichen Zeit über ein bestimmtes Thema twittert. Eine andere Form der sozialen Koordination wäre eine Person, die mit Twitter ihre Anhänger dazu anregt, etwas Bestimmtes zu sagen oder zu tun, z. B. eine andere Person zu beleidigen (so genanntes „Dogpiling").

Alle Formen der technischen Koordination sind gemäß den Twitter Regeln verboten. Wenn wir mit ausreichenden Nachweisen (z. B. technischen Verknüpfungen zwischen Accounts) belegen können, dass sich eine Person oder eine Gruppe technisch koordiniert hat, ergreifen wir stets Durchsetzungsmaßnahmen – in der Regel werden die betreffenden Accounts dauerhaft gesperrt. 

Nicht alle Formen der sozialen Koordination stellen einen Verstoß gegen die Regeln dar. Es ist unwahrscheinlich, dass wir dieses Framework auf Gruppen, Bewegungen und Kampagnen anwenden, die sich an Aktivismus beteiligen, den Machthabenden die Wahrheit sagen, Sensibilisierungskampagnen betreiben oder an ähnlichen Aktivitäten teilnehmen, es sei denn, wir können Beweise dafür vorlegen, dass sie Schaden verursachen.

Wie definieren wir Schaden?

Jede unserer Richtlinien soll einen bestimmten, bekannten Schaden verhindern, mindern und/oder darauf reagieren. Es gibt eine Vielzahl potenzieller Schäden, die mit dem Online-Verhalten zusammenhängen können. Bei der Bewertung von Schäden unter diesem Framework ziehen wir drei Hauptformen von Schäden in Betracht: körperlichen, psychologischen und informativen Schaden. Diese Schäden spiegeln sich in den Twitter Regeln wider.

Körperlicher Schaden
Schaden, der eine körperlich negative Auswirkung auf jemanden oder etwas oder auf soziale Gruppen oder die Gesellschaft hat. Darunter fällt schädliches Verhalten, das in unseren Richtlinien zu Gewalt, Terrorismus und gewalttätigem Extremismus, sexueller Ausbeutung von Kindern, Missbrauch und Belästigung, Hass schürendem Verhalten und Selbstmord oder Selbstverletzung erfasst ist.

Psychologischer Schaden
Schaden, der sich auf eine Person und ihr geistiges und emotionales Wohlbefinden und ihre Psyche oder auf das Wohlbefinden sozialer Gruppen oder der Gesellschaft konzentriert. Darunter fällt schädliches Verhalten, das in unseren Richtlinien zu Missbrauch und Belästigung, Hass schürendem Verhalten, Selbstmord oder Selbstverletzung, privaten Informationen und nicht einvernehmlicher Nacktheit erfasst ist.

Informativer Schaden
Schaden, der sich nachteilig auf die Fähigkeit einer Person auswirkt, auf Informationen zuzugreifen, die für die Ausübung ihrer Rechte von grundlegender Bedeutung sind, oder die die Stabilität und/oder die Sicherheit einer sozialen Gruppe oder der Gesellschaft erheblich beeinträchtigt. Ein Beispiel sind medizinische Falschinformationen, z. B. zu COVID-19. Darunter fällt schädliches Verhalten, das in unseren Richtlinien zu staatsbürgerlicher Integrität, synthetischen und manipulierten Medien und Plattformmanipulation und Spam erfasst ist.

Darüber hinaus berücksichtigen wir den Schweregrad des von uns identifizierten Schadens. Der Schweregrad kann niedrig, mäßig oder hoch sein.

Niedrig

  • Die von Personen/Anhängern verursachten Schäden sind nicht dokumentiert oder sie sind in Anzahl/Häufigkeit begrenzt und/oder nicht schwerwiegender Natur.
  • Es gibt kaum oder keine Quellen, die bestätigen, dass Personen/Anhänger, die in Verbindung mit dieser Gruppe stehen, Schaden angerichtet haben oder welchen Schaden sie angerichtet haben.
  • Wenn diesen Aktivitäten nicht Einhalt geboten wird, besteht fast keine Wahrscheinlichkeit, dass ein Schaden verursacht wird.

Mäßig

  • Die von Personen/Anhängern verursachten Schäden sind dokumentiert, jedoch möglicherweise nicht besonders schwerwiegend und/oder in Anzahl/Häufigkeit eher gering.
  • Es gibt mehrere leicht zugängliche, glaubwürdige Quellen, die belegen, dass in Verbindung mit dieser Gruppe stehende Personen/Anhänger Schaden angerichtet haben.
  • Wenn diesen Aktivitäten nicht Einhalt geboten wird, besteht eine mäßige Wahrscheinlichkeit, dass weiterer Schaden verursacht wird.

Hoch

  • Die von Personen/Anhängern verursachten Schäden sind entweder in Bezug auf Anzahl/Häufigkeit oder in Bezug auf den Schweregrad extrem.
  • Es gibt zahlreiche Quellen, die bestätigen, dass Personen/Anhänger extremen Schaden (in Bezug auf Häufigkeit oder Schweregrad) verursacht haben, sowie zahlreiche Beispiele dafür, welchen Schaden sie verursacht haben.
  • Wenn diesen Aktivitäten nicht Einhalt geboten wird, ist es fast sicher, dass weiterer Schaden verursacht wird.

Wie bewerten wir den Schaden anhand unseres Frameworks?

Wir nutzen unser Framework, um die Auswirkungen der Aktivitäten einer Gruppe auf der Plattform und außerhalb auf die drei oben aufgeführten Arten von Schäden und Schweregraden zu bewerten und zu verstehen. Bei der Beurteilung des Schadens, der möglicherweise von Mitgliedern einer Gruppe verursacht wurde, suchen wir nach Hinweisen auf Schäden, die sowohl auf Twitter als auch außerhalb aufgetreten sind. In der Regel wird eine Gruppe, die Aktivitäten durchführt, die in mindestens einer Kategorie schweren Schaden anrichtet oder die in mehreren Kategorien mäßigen Schaden anrichtet, in diesem Framework als schädlich eingestuft.

Für diese Bewertungen stellen wir uns eine Reihe von Fragen, u. a.:

  • Ist dies eine identifizierbare Gruppe mit einem einheitlichen Zweck oder eine einmalige Kampagne mit einem klaren Ziel?
  • Inwiefern stellt das Verhalten der Gruppe oder Kampagne auf Twitter oder außerhalb eine koordinierte Aktivität dar?
  • Inwiefern haben Personen, die in Verbindung mit dieser Gruppe stehen, in unseren 3 Kategorien Schaden angerichtet?
  • Welche Risiken bestehen bei der Anwendung dieser Richtlinie auf diese Aktivität, einschließlich möglicher Auswirkungen auf Redefreiheit oder Vereinigungsrecht?

Wir ziehen in Betracht, dass Beispiele für Schäden von Akteur zu Akteur, von Gruppe zu Gruppe und über Regionen und Kulturen hinweg unterschiedlich sein können. Unterschiedliche Schäden können miteinander oder mit den subjektiven Vorteilen oder Rechten, die mit der Aktivität in Verbindung stehen, in Konflikt geraten. Wenn solche Konflikte auftreten, räumen wir der körperlichen und psychologischen Sicherheit Priorität ein und greifen daher am wahrscheinlichsten dort ein, wo die von uns identifizierte Aktivität für andere zu körperlichen oder psychologischen Schäden führt. 

Durchsetzungsmaßnahmen gegen koordinierte schädliche Aktivitäten

Unter diesem Framework identifizieren wir durch eine Bewertung von Koordination und Schaden (wie oben definiert) Akteure, die an koordinierten schädlichen Aktivitäten beteiligt sind. Wir überprüfen diese Identifikationen auf Akteurebene regelmäßig und können sie aufgrund von Änderungen im Verhalten einer Gruppe auf Twitter und außerhalb modifizieren oder zurückziehen.

Wenn wir beschließen, dass eine Gruppe, Bewegung oder Kampagne die Kriterien für die Identifizierung als koordinierte schädliche Aktivität erfüllt, können wir die folgenden Maßnahmen für Tweets und/oder Accounts ergreifen, bei denen wir feststellen, dass eine Verbindung zu der Gruppe besteht:

  • Einschränkung der Sichtbarkeit von Tweets und/oder Accounts in Suchergebnissen, Antworten und Timelines
  • Verhinderung der Empfehlung von Tweets und/oder Accounts per E-Mail oder im Produkt
  • Verhinderung der Auflistung in Trends, die in direktem Zusammenhang mit Gruppen stehen, die an koordinierten schädlichen Aktivitäten beteiligt sind

Wir identifizieren Accounts, die mit einer Gruppe in Verbindung stehen, fortlaufend und kontinuierlich. Dabei setzen wir eine Mischung aus Technologie und menschlicher Überprüfung ein, wobei wir Dinge wie das aktuelle Verhalten auf Twitter oder Profilinformationen berücksichtigen. Einschränkungen der Sichtbarkeit von Tweets und/oder Accounts, die sich aus diesem Framework ergeben, verfallen automatisch nach einem begrenzten Zeitraum, können jedoch (entweder manuell oder automatisch) erneut angewendet werden, wenn wir feststellen, dass die Accounts weiterhin mit dem Verhalten der identifizierten Gruppe in Verbindung stehen. 

Accounts, die an koordinierten schädlichen Aktivitäten beteiligt sind, können gemäß den Twitter Regeln ebenfalls Durchsetzungsmaßnahmen unterworfen werden. Unsere Durchsetzungsmaßnahmen bei Verstößen gegen unsere Regeln umfassen, sind aber nicht beschränkt auf:

  • Forderung der Entfernung bestimmter Tweets, die gegen die Twitter Regeln verstoßen
  • Sperrung von Accounts, die schwerwiegende oder wiederholte Verstöße gegen die Twitter Regeln begangen haben

In diesen Artikeln erfährst du mehr über unsere verschiedenen Durchsetzungsmaßnahmen und über unsere Vorgehensweise bei der Entwicklung von Richtlinien und deren Durchsetzung.

Diesen Artikel als Favorit speichern oder teilen

War dieser Artikel hilfreich?

Danke für das Feedback. Wir freuen uns, dass wir helfen konnten.

Danke für das Feedback. Wie können wir diesen Artikel verbessern?

Danke für das Feedback. Deine Kommentare helfen uns, unsere Artikel zu verbessern.