Telegram Masih Belum Menghapus Bot AI yang Melecehkan Wanita


Dalam satu obrolan grup Telegram tentang bot, pemiliknya mengatakan bahwa Telegram telah memblokir penyebutan namanya. Namun, WIRED tidak dapat mengonfirmasi ini atau tindakan apa pun yang diambil oleh Telegram. Baik juru bicara Telegram atau pendiri layanan, Pavel Durov, tidak menanggapi permintaan komentar. Perusahaan, yaitu dipercaya akan berbasis di Dubai tetapi memiliki server di seluruh dunia, tidak pernah secara terbuka berkomentar tentang kerusakan yang disebabkan oleh bot Telegram atau posisi lanjutannya untuk mengizinkannya beroperasi.

Sejak didirikan pada 2013, Telegram telah memposisikan dirinya sebagai ruang pribadi untuk kebebasan berbicara, dan mode terenkripsi ujung-ke-ujungnya telah digunakan oleh jurnalis dan aktivis di seluruh dunia untuk melindungi privasi dan menghindari penyensoran. Namun, aplikasi perpesanan mengalami masalah dengan konten yang bermasalah. Pada Juli 2017, Telegram mengatakan akan membentuk tim moderator untuk menghapus konten terkait terorisme setelah Indonesia mengancamnya dengan larangan. Apple juga menghapusnya untuk sementara dari App Store pada 2018 setelah menemukan konten yang tidak pantas di platform.

“Saya pikir mereka [Telegram] memiliki perspektif yang sangat libertarian terhadap moderasi konten dan segala jenis tata kelola di platform mereka, ”kata Mahsa Alimardani, peneliti di Oxford Internet Institute. Alimardani, yang telah bekerja dengan aktivis di Iran, menunjuk ke Telegram yang memberi tahu penggunanya tentang versi palsu aplikasi yang dibuat oleh pihak berwenang di negara tersebut. “Tampaknya saat mereka benar-benar bertindak, saat itulah otoritas negara terlibat.”

Pada tanggal 23 Oktober, badan perlindungan data Italia, Garante per la Protezione dei dati Personali, membuka penyelidikan terhadap Telegram dan memintanya untuk memberikan data. Dalam sebuah pernyataan, regulator mengatakan gambar telanjang yang dihasilkan oleh bot tersebut dapat menyebabkan “kerusakan yang tidak dapat diperbaiki” pada korbannya. Sejak pejabat Italia membuka penyelidikan mereka, Patrini telah melakukan lebih banyak penelitian untuk mencari bot deepfake di Telegram. Dia mengatakan ada sejumlah bot berbahasa Italia yang tampaknya menawarkan fungsi yang sama seperti yang ditemukan Sensity sebelumnya, namun tampaknya tidak berfungsi.

Penelitian terpisah dari akademisi di University of Milan dan University of Turin juga menemukan jaringan grup Telegram berbahasa Italia, beberapa di antaranya bersifat pribadi dan hanya dapat diakses dengan undangan, membagikan gambar intim wanita yang tidak disepakati bersama. t melibatkan teknologi deepfake. Beberapa grup yang mereka temukan memiliki lebih dari 30.000 anggota dan mengharuskan anggota untuk membagikan gambar non-konsensual atau dihapus dari grup. Satu kelompok berfokus pada berbagi gambar wanita yang diambil di tempat umum tanpa sepengetahuan mereka.

“Telegram harus mencari ke dalam dan meminta pertanggungjawaban,” kata Honza Červenka, pengacara di firma hukum McAllister Olivarius, yang berspesialisasi dalam gambar dan teknologi non-konsensual. Červenka mengatakan bahwa undang-undang baru diperlukan untuk memaksa perusahaan teknologi melindungi penggunanya dengan lebih baik dan menekan penggunaan teknologi otomatisasi yang menyimpang. “Jika terus menawarkan API Bot Telegram kepada pengembang, itu harus melembagakan toko bot resmi dan mengesahkan bot dengan cara yang sama seperti yang dilakukan Apple, Google, dan Microsoft untuk toko aplikasi mereka.” Namun, Červenka menambahkan hanya ada sedikit tekanan pemerintah atau hukum yang diberlakukan untuk membuat Telegram mengambil langkah semacam ini.

Patrini memperingatkan bahwa teknologi deepfake dengan cepat berkembang, dan bot Telegram adalah tanda dari apa yang mungkin terjadi di masa depan. Bot di Telegram adalah pertama kalinya jenis penyalahgunaan gambar ini terlihat dalam skala besar, dan mudah digunakan siapa saja — tidak diperlukan keahlian teknis. Itu juga salah satu pertama kalinya anggota masyarakat menjadi sasaran teknologi deepfake. Sebelumnya selebriti dan tokoh masyarakat menjadi sasaran pornografi AI non-konsensual. Tetapi karena teknologinya semakin demokratis, lebih banyak contoh penyalahgunaan jenis ini akan ditemukan secara online, katanya.

“Ini adalah satu investigasi, tetapi kami menemukan pelanggaran semacam ini di banyak tempat di internet,” jelas Patrini. “Ada, dalam skala yang lebih kecil, banyak tempat online lain tempat gambar dicuri atau bocor dan digunakan kembali, dimodifikasi, dibuat ulang, dan disintesis, atau digunakan untuk melatih algoritme AI untuk membuat gambar yang menggunakan wajah kita tanpa kita sadari.”

Cerita ini pertama kali tayang di WIRED UK.


Lebih Banyak Kisah WIRED Hebat


Diposting oleh : SGP Prize

Tinggalkan Balasan

Alamat email Anda tidak akan dipublikasikan.