Lebih Banyak Moderasi Konten Tidak Selalu Lebih Baik


Ketika perusahaan mengembangkan lebih banyak jenis teknologi untuk menemukan dan menghapus konten dengan cara yang berbeda, ada harapan bahwa mereka harus menggunakannya. Bisa moderat menyiratkan seharusnya untuk moderat. Lagi pula, setelah alat digunakan, sulit untuk memasukkannya kembali ke dalam kotak. Tetapi moderasi konten sekarang semakin meningkat, dan kerusakan tambahan di jalurnya terlalu sering diabaikan.

Ada kesempatan sekarang untuk beberapa pertimbangan hati-hati tentang jalan ke depan. Akun media sosial Trump dan pemilihan berada di kaca spion, yang berarti moderasi konten tidak lagi menjadi cerita A1 yang konstan. Mungkin itu membuktikan sumber sebenarnya dari sebagian besar kecemasan adalah politik, bukan platform. Tapi ada—atau seharusnya—ada kegelisahan yang tersisa pada tampilan kekuasaan yang luar biasa yang ditunjukkan segelintir eksekutif perusahaan dalam mematikan rekening pemimpin dunia bebas.

Kekacauan tahun 2020 menghancurkan anggapan bahwa ada kategori jelas “misinformasi” berbahaya yang harus diturunkan oleh beberapa orang kuat di Lembah Silikon, atau bahkan ada cara untuk membedakan kesehatan dari politik. Pekan lalu, misalnya, Facebook membalikkan kebijakannya dan mengatakan tidak akan lagi menghapus postingan yang mengklaim Covid-19 adalah buatan manusia atau buatan. Baru beberapa bulan yang lalu The New York Times telah mengutip kepercayaan pada teori “tidak berdasar” ini sebagai bukti bahwa media sosial telah berkontribusi pada “krisis realitas” yang sedang berlangsung. Ada yang serupa bolak-balik dengan topeng. Di awal pandemi, Facebook melarang iklan untuk mereka di situs tersebut. Ini berlangsung hingga Juni, ketika WHO akhirnya mengubah pedomannya untuk merekomendasikan pemakaian masker, meskipun banyak ahli menyarankannya lebih awal. Kabar baiknya, saya kira, mereka tidak begitu efektif dalam menegakkan larangan sejak awal. (Pada saat itu, bagaimanapun, ini tidak dilihat sebagai kabar baik.)

Karena semakin banyak yang keluar tentang kesalahan pihak berwenang selama pandemi atau contoh di mana politik, bukan keahlian, narasi yang ditentukan, secara alami akan ada lebih banyak skeptisisme tentang mempercayai mereka atau platform pribadi untuk memutuskan kapan harus menutup percakapan. Mengeluarkan pedoman kesehatan masyarakat untuk momen tertentu tidak sama dengan menyatakan batas-batas perdebatan yang wajar.

Seruan untuk tindakan keras lebih lanjut memiliki biaya geopolitik juga. Pemerintah otoriter dan represif di seluruh dunia telah menunjuk pada retorika demokrasi liberal dalam membenarkan penyensoran mereka sendiri. Ini jelas perbandingan yang muluk-muluk. Menutup kritik terhadap penanganan pemerintah atas keadaan darurat kesehatan masyarakat, seperti yang dilakukan pemerintah India, jelas merupakan penghinaan terhadap kebebasan berbicara. Tapi disana aku s beberapa ketegangan dalam berteriak pada platform untuk menjatuhkan lebih banyak sini tapi berhenti mengambil begitu banyak ke bawah di sana. Sejauh ini, pemerintah Barat telah menolak untuk mengatasi hal ini. Mereka sebagian besar telah meninggalkan platform untuk berjuang sendiri dalam kebangkitan global otoritarianisme digital. Dan platformnya kalah. Pemerintah perlu berjalan dan mengunyah permen karet dalam cara mereka berbicara tentang regulasi platform dan kebebasan berbicara jika mereka ingin membela hak banyak pengguna di luar perbatasan mereka.

Ada trade-off lainnya. Karena moderasi konten pada skala tidak akan pernah sempurna, pertanyaannya adalah selalu di sisi mana yang salah saat menegakkan aturan. Aturan yang lebih ketat dan penegakan yang lebih berat tentu berarti lebih banyak positif palsu: Artinya, pidato yang lebih berharga akan dihapus. Masalah ini diperburuk oleh meningkatnya ketergantungan pada moderasi otomatis untuk menghapus konten dalam skala besar: Alat-alat ini tumpul dan bodoh. Jika disuruh menghapus lebih banyak konten, algoritme tidak akan berpikir dua kali. Mereka tidak dapat mengevaluasi konteks atau membedakan antara konten yang mengagungkan kekerasan atau merekam bukti pelanggaran hak asasi manusia, misalnya. Kerugian dari pendekatan semacam ini telah jelas selama konflik Palestina-Israel beberapa minggu terakhir karena Facebook telah berulang kali menghapus konten penting dari dan tentang Palestina. Ini bukan satu kali. Mungkin bisa harus tidak selalu menyiratkan seharusnya—terutama seperti yang kita ketahui bahwa kesalahan ini cenderung jatuh secara tidak proporsional pada komunitas yang sudah terpinggirkan dan rentan.

Diposting oleh : Toto HK