The Christchurch Shooter dan YouTube's Radicalization Trap

The Christchurch Shooter dan YouTube’s Radicalization Trap


Dalam sebuah pernyataan email, seorang juru bicara YouTube mengatakan bahwa perusahaan telah membuat “kemajuan signifikan dalam upaya kami memerangi ujaran kebencian di YouTube sejak serangan tragis di Christchurch.” Mengutip kebijakan ujaran kebencian yang diperkuat tahun 2019, juru bicara tersebut mengatakan bahwa telah terjadi “lonjakan 5x dalam jumlah video kebencian yang dihapus dari YouTube”. YouTube juga telah mengubah sistem rekomendasinya untuk “membatasi penyebaran konten yang mendekati batas”.

YouTube mengatakan bahwa dari 1,8 juta saluran yang dihentikan karena melanggar kebijakan mereka pada kuartal terakhir, 54.000 adalah karena perkataan yang mendorong kebencian — yang terbanyak. YouTube juga menghapus lebih dari 9.000 saluran dan 200.000 video karena melanggar aturan yang mendukung ekstremisme kekerasan. Selain Molyneux, larangan YouTube di bulan Juni termasuk David Duke dan Richard Spencer. (Teroris Christchurch menyumbang ke National Policy Institute, yang dijalankan Spencer.)

“Jelas bahwa inti dari model bisnis berdampak pada memungkinkan konten ini tumbuh dan berkembang,” kata Lewis. “Mereka telah mengubah algoritme mereka, mereka telah mengeluarkan beberapa orang dari platform, tetapi mereka belum mengatasi masalah mendasar itu.”

Budaya online tidak dimulai dan diakhiri dengan YouTube atau di mana pun, berdasarkan desain. Dasar dari model bisnis media sosial adalah berbagi lintas platform. “YouTube bukan hanya tempat orang mencari hiburan; mereka tersedot ke dalam komunitas ini. Itu memungkinkan Anda untuk berpartisipasi melalui komentar, tentu saja, tetapi juga dengan memberikan sumbangan dan meningkatkan konten di tempat lain, ”kata Joan Donovan, direktur penelitian Shorenstein Center on Media, Politics, and Public Policy Universitas Harvard. Menurut laporan pemerintah Selandia Baru, teroris Christchurch secara teratur membagikan postingan Reddit sayap kanan, halaman Wikipedia, dan video YouTube, termasuk dalam obrolan situs game yang tidak disebutkan namanya.

Teroris masjid Christchurch juga mengikuti dan memposting di beberapa grup Facebook nasionalis kulit putih, terkadang membuat komentar yang mengancam tentang imigran dan minoritas. Menurut penulis laporan yang mewawancarainya, “orang tersebut tidak menerima bahwa komentarnya berkaitan dengan badan anti-terorisme. Dia memikirkan hal ini karena banyaknya komentar serupa yang dapat ditemukan di internet. ” (Pada saat yang sama, dia mengambil langkah-langkah untuk meminimalkan jejak digitalnya, termasuk menghapus email dan menghapus hard drive komputernya.)

Reposting atau dakwah supremasi kulit putih tanpa konteks atau peringatan, kata Donovan, membuka jalan tanpa gesekan untuk penyebaran ide-ide pinggiran. “Kami harus melihat bagaimana platform ini menyediakan kapasitas untuk siaran dan untuk skala yang, sayangnya, sekarang mulai memberikan tujuan negatif,” katanya.

Insentif bisnis YouTube pasti menghalangi transparansi semacam itu. Tidak ada cara yang bagus bagi para ahli dari luar untuk menilai atau membandingkan teknik untuk meminimalkan penyebaran ekstremisme lintas platform. Mereka sering kali harus mengandalkan laporan yang dikeluarkan oleh bisnis tentang platform mereka sendiri. Daniel Kelley, direktur asosiasi dari Anti-Defamation League’s Center for Technology and Society, mengatakan bahwa meskipun YouTube melaporkan peningkatan penghapusan konten ekstremis, tindakan tersebut tidak menunjukkan prevalensinya di masa lalu atau saat ini. Peneliti di luar perusahaan tidak mengetahui cara kerja algoritme rekomendasi sebelumnya, bagaimana perubahannya, cara kerjanya sekarang, dan apa pengaruhnya. Dan mereka tidak tahu bagaimana “konten yang mendekati batas” didefinisikan — sebuah poin penting mengingat banyak yang berpendapat bahwa konten tersebut terus menyebar di YouTube, Facebook, dan di tempat lain.

“Sulit untuk mengatakan apakah upaya mereka membuahkan hasil,” kata Kelley. “Kami tidak memiliki informasi apa pun tentang apakah itu benar-benar berfungsi atau tidak.” ADL telah berkonsultasi dengan YouTube, namun Kelley mengatakan dia belum melihat dokumen apa pun tentang bagaimana mereka mendefinisikan ekstremisme atau melatih moderator konten tentangnya.

Perhitungan nyata atas penyebaran konten ekstremis telah mendorong teknologi besar untuk mengeluarkan banyak uang untuk menemukan solusi. Mengatasi masalah tampaknya efektif. Berapa banyak YouTuber terlarang yang telah layu dalam ketidakjelasan? Tetapi moderasi tidak membahas cara-cara di mana fondasi media sosial sebagai bisnis — menciptakan influencer, berbagi lintas platform, dan kebijakan kotak hitam — juga merupakan faktor integral dalam melestarikan kebencian secara online.

Banyak tautan YouTube yang dibagikan penembak Christchurch telah dihapus karena melanggar kebijakan moderasi YouTube. Jaringan orang dan ideologi yang direkayasa melalui mereka dan melalui media sosial lainnya tetap ada.


Lebih Banyak Kisah WIRED Hebat

Diposting oleh : SGP Prize

Releated

Target Korea Utara — dan Dupes — Banyak Ahli Keamanan Siber

Target Korea Utara — dan Dupes — Banyak Ahli Keamanan Siber

Suatu awal Januari Pagi hari, peneliti keamanan Zuk Avraham mendapat pesan langsung yang tidak bisa dijelaskan tiba-tiba di Twitter: “Hai.” Itu dari seseorang bernama Zhang Guo. Pesan singkat yang tidak diminta itu tidak terlalu aneh; sebagai pendiri perusahaan pemantau ancaman ZecOps dan perusahaan antivirus Zimperium, Avraham mendapat banyak DM acak. Zhang mengaku sebagai web developer […]

'2034: A Novel of the Next World War,' sebuah Kutipan Eksklusif

‘2034: A Novel of the Next World War,’ sebuah Kutipan Eksklusif

WIRED selalu menjadi publikasi tentang masa depan — tentang kekuatan yang membentuknya, dan bentuk yang kami inginkan. Terkadang, bagi kami, itu berarti menjadi optimis yang bermata liar, membayangkan skenario yang paling menggairahkan kami. Dan terkadang itu berarti bersusah payah membayangkan masa depan yang benar-benar ingin kita hindari. Dengan memberikan kejelasan dan definisi tentang lintasan mimpi […]