Aktivitas berbahaya yang terkoordinasi

Ikhtisar

Januari 2021

Peraturan Twitter bertujuan memastikan orang dapat berpartisipasi dalam percakapan publik dengan bebas dan aman. Dalam beberapa kasus, kami mengidentifikasi kelompok, gerakan, atau kampanye yang terlibat dalam aktivitas terkoordinasi yang menyebabkan bahaya di dalam dan di luar Twitter. Kami mengevaluasi kelompok, gerakan, atau kampanye tersebut berdasarkan kerangka kerja analitik, dengan konsekuensi di dalam Twitter yang spesifik jika kami menentukan bahwa mereka berbahaya. Artikel ini menjelaskan cara kami melakukan penilaian ini, dan apa yang terjadi saat kami mengidentifikasi bahwa suatu kelompok terlibat dalam aktivitas berbahaya yang terkoordinasi.

Aktivitas berbahaya yang terkoordinasi adalah kerangka kerja tingkat aktor, artinya kami menilai kelompok, gerakan, dan kampanye lalu mengambil tindakan penegakan terhadap akun mana pun yang kami identifikasi sebagai terkait dengan entitas tersebut. Untuk mengambil tindakan berdasarkan kerangka kerja ini, kami harus menemukan kedua bukti bahwa individu yang terkait dengan suatu kelompok, gerakan, atau kampanye terlibat dalam semacam koordinasi dan koordinasi tersebut menimbulkan bahaya terhadap orang lain. 

Apa definisi kami atas koordinasi?

Berdasarkan kerangka kerja ini, kami menilai dua aspek koordinasi: teknis dan sosial.

• Koordinasi teknis mengacu pada penggunaan teknis manipulasi platform yang spesifik dan dapat dideteksi yang ditujukan untuk menggembungkan atau menyebarkan suatu pesan atau narasi di Twitter secara palsu. Contohnya, seseorang yang mengoperasikan beberapa akun untuk men-Tweet pesan yang sama dari semua akun tersebut akan dikategorikan sebagai koordinasi teknis. Peraturan manipulasi platform dan spam mendeskripsikan jenis-jenis koordinasi teknis yang dilarang di Twitter.
  
• Koordinasi sosial mengacu ke koordinasi di dalam dan di luar Twitter di antara sekelompok orang untuk meningkatkan atau menyebarkan pesan tertentu. Contohnya, sekelompok orang yang menggunakan aplikasi perpesanan untuk mengelola kampanye pada tiap Tweet tentang suatu isu pada saat yang bersamaan, akan dikategorikan sebagai koordinasi sosial. Bentuk lain koordinasi sosial yaitu seseorang menggunakan Twitter untuk menghasut pengikut mereka untuk mengatakan atau melakukan hal tertentu, seperti membalas Tweet orang lain dengan pesan yang menghina – praktik yang disebut "dogpiling".
  

Segala bentuk koordinasi teknis dilarang berdasarkan Peraturan Twitter. Jika kami dapat membuktikan dengan temuan yang memadai (seperti kaitan teknis antarakun) bahwa seseorang atau suatu kelompok telah terlibat dalam koordinasi teknis, kami akan selalu mengambil tindakan pengerakan – biasanya dengan menangguhkan akun-akun terkait secara permanen. 

Tidak semua bentuk koordinasi sosial dikategorikan sebagai pelanggaran Peraturan. Kemungkinan kecil kami menerapkan kerangka kerja ini pada kelompok, gerakan, dan kampanye yang terlibat dalam aktivisme, menyampaikan kebenaran pada pihak berkuasa, terlibat dalam kampanye pembangun kesadaran, atau akvitias serupa lainnya, kecuali jika kami dapat menemukan bukti adanya bahaya.

Apa definisi kami atas bahaya?

Tiap kebijakan kami dimaksudkan untuk mencegah, mengurangi, dan/atau menanggapi bahaya spesifik yang diketahui. Terdapat berbagai macam potensi bahaya yang mungkin dikaitkan dengan perilaku online; dalam mengevaluasi bahasa berdasarkan kerangka kerja ini, kami mempertimbangkan tiga bentuk utama bahaya: fisik, psikologis, dan informasional. Ketiga bentuk bahaya tersebut tercermin di seluruh Peraturan Twitter.
 

Fisik

Bahaya yang menggambarkan efek fisik negatif pada seseorang atau sesuatu, atau pada kelompok sosial atau masyarakat. Ini termasuk perilaku berbahaya yang dijabarkan di kebijakan kami tentang kekerasan, terorisme dan ekstremisme kekerasan, eksploitasi seks anak di bawah umur, pelecehan secara online dan penghinaan, perilaku kebencian, dan tindakan bunuh diri atau menyakiti diri sendiri.
 

Psikologis

Bahaya yang berfokus pada individu dan keseimbangan mental dan emosional serta kejiwaan mereka, atau keseimbangan kelompok sosial atau masyarakat. Ini termasuk perilaku berbahaya yang dijabarkan di kebijakan kami tentang pelecehan secara online dan penghinaan, perilaku kebencian, tindakan bunuh diri atau menyakiti diri sendiri, informasi pribadi, dan ketelanjangan tanpa persetujuan.
 

Informasional

Bahaya yang berdampak negatif pada kemampuan seseorang untuk mengakses informasi yang fundamental dalam menjalankan hak-hak mereka, atau yang mengganggu secara signifikan stabilitas dan/atau keselamatan kelompok sosial atau masyarakat termasuk misinformasi medis, mis. COVID-19. Ini termasuk perilaku berbahaya yang dijabarkan dalam kebijakan kami tentang integritas kewarganegaraan, media hasil rekayasa atau manipulasi, serta manipulasi platform dan spam.
 

Selain itu, kami mempertimbangkan tingkat keparahan bahaya yang kami identifikasi. Tingkat keparahan bisa rendah, sedang, atau tinggi.
 

Rendah

• Bahaya yang diakibatkan oleh individu/pendukung tidak didokumentasikan, atau jumlah/frekuensinya terbatas, dan/atau bersifat tidak parah
• Tidak ada atau sedikit sumber yang mengonfirmasi bahwa individu/pendukung yang terkait dengan kelompok ini telah menimbulkan bahaya, atau bahaya yang mereka timbulkan
• Jika tidak diperiksa, kemungkinan timbulnya bahaya hampir tidak ada

Sedang

• Bahaya yang diakibatkan oleh individu/pendukung didokumentasikan, tetapi mungkin tidak parah dan/atau mungkin jumlah/frekuensinya lebih sedikit
• Terdapat beberapa sumber yang langsung tersedia yang menyatakan bahwa individu/pendukung yang terkait dengan kelompok ini telah menimbulkan bahaya
• Jika tidak diperiksa, kemungkinan timbulnya bahaya adalah sedang

Tinggi

• Bahaya yang diakibatkan oleh individu/pendukung bersifat ekstrem, baik dari segi jumlah/frekuensi atau tingkat keparahan
• Terdapat banyak sumber yang mengonfirmasi bahwa individu/pendukung yang bersangkutan telah menimbulkan bahaya ekstrem (frekuensi atau keparahannya), serta banyak contoh bahaya yang telah mereka timbulkan
• Jika tidak diperiksa, kemungkinan timbulnya lebih banyak bahaya hampir pasti

Bagaimana kami gunakan kerangka kerja kami untuk menilai bahaya?

Kami menggunakan kerangka kerja kami untuk menilai dan memahami dampak aktivitas kelompok, baik di dalam maupun di luar platform, di antara ketiga jenis bahaya dan tingkat keparahan yang disebutkan di atas. Saat menilai bahaya yang mungkin telah ditimbulkan oleh suatu kelompok, kami mencari bukti bahaya yang telah muncul baik di dalam maupun di luar Twitter. Biasanya, suatu kelompok yang terlibat dalam aktivitas yang memiliki bahaya dengan tingkat keparahan tinggi dalam setidaknya satu kategori, atau beberapa bahaya dengan tingkat keparahan sedang, akan dinilai sebagai berbahaya berdasarkan kerangka kerja ini.

Untuk penilaian seperti ini, kami mengajukan beberapa pertanyaan, seperti:

• Apakah ini kelompok yang dapat diidentifikasi memiliki tujuan seragam, atau ini suatu kampanye yang bertujuan jelas?
• Dengan cara apa perilaku di dalam, dan di luar Twitter dari kelompok atau kampanye ini membentuk aktivitas yang terkoordinasi?
• Dengan cara apa individu-individu yang terkait dengan kelompok ini menyebabkan bahaya di antara 3 kategori kami?
• Apa risiko-risiko menerapkan kebijakan ini terhadap aktivitas ini, termasuk potensi dampaknya terhadap hak berbicara atau berserikat?
   

Kami mempertimbangkan bahwa contoh-contoh bahaya bisa berbeda dari satu aktor dengan yang lain, satu kelompok dengan yang lain, dan antara tempat geografis serta budaya. Bahaya yang berbeda mungkin bertentangan satu sama lain, atau dengan manfaat atau hak yang dipersepsi terkait dengan aktivitas tersebut. Saat timbul konflik semacam itu, kami memprioritaskan keselamatan fisik dan psikologis, dan oleh karenanya sangat mungkin mengintervensi ketika aktivitas yang telah kami identifikasi mengarah ke bahaya fisik atau psikologis terhadap orang lain. 

Penegakan terhadap aktivitas berbahaya yang terkoordinasi

Berdasarkan kerangka kerja ini, kami menggunakan penilaian atas koordinasi dan bahaya, sebagaimana dijelaskan di atas, untuk menyatakan kelompok, pergerakan, atau kampanye sebagai terlibat dalam Aktivitas Berbahaya yang Terkoordinasi. Kami meninjau pernyataan tingkat aktor ini secara berkala, dan mungkin mengubah atau menarik pernyataan ini berdasarkan perubahan dalam perilaku kelompok tersebut di dalam dan di luar Twitter.

Saat kami menentukan bahwa suatu kelompok, gerakan, dan kampanye memenuhi kriteria untuk dinyatakan sebagai terlibat dalam Aktivitas Berbahaya yang Terkoordinasi, kami dapat mengambil tindakan berikut terhadap Tweet dan/atau akun yang kami identifikasi sebagai terkait dengan kelompok tersebut:

• Membatasi visibilitas Tweet dan/atau akun di hasil pencarian, balasan, dan di timeline.
• Mencegah rekomendasi Tweet dan/atau akun di email atau rekomendasi dalam produk
• Mencegah munculnya tren yang secara langsung terkait dengan kelompok yang terlibat dalam aktivitas berbahaya yang terkoordinasi
• Menangguhkan akun yang digunakan terutama untuk menyebarkan dan/atau mendorong keterlibatan dalam aktivitas berbahaya yang terkoordinasi yang diidentifikasi

Kami mengidentifikasi akun-akun yang terkait dengan kelompok secara berkala dan bergilir, menggunakan gabungan antara teknologi dan tinjauan manusia, dengan mempertimbangkan hal-hal seperti perilaku atau informasi profil baru di Twitter. Pembatasan pada visibilitas Tweet dan/atau akun yang berasal dari kerangka kerja ini akan kedaluwarsa secara otomatis setelah periode waktu terbatas, tetapi dapat diterapkan ulang (baik secara manual atau otomatis) jika kami menentukan bahwa akun-akun tersebut terus terlibat dalam perilaku yang terkait dengan kelompok yang dinyatakan tersebut. 

Akun apa pun yang terlibat dalam aktivitas berbahaya yang terkoordinasi dapat tunduk pada tindakan penegakan berdasarkan Peraturan Twitter. Tindakan penegakan terhadap pelanggaran kebijakan kami termasuk, tetapi tidak terbatas pada:

• Mewajibkan penghapusan Tweet tertentu yang melanggar Peraturan Twitter
• Penangguhan akun yang terlibat dalam pelanggaran terhadap Peraturan Twitter yang parah atau berulang

Pelajari lebih lanjut opsi tindakan penegakan kami dan pendekatan kami terhadap pengembangan kebijakan dan penegakan kami.