Apa yang Terjadi dengan Ancaman Deepfake pada Pemilu?


Saat sidang dari Komite Intelijen DPR pada Juni 2019, para ahli memperingatkan tentang potensi distorsi demokrasi dari video yang dihasilkan oleh kecerdasan buatan, yang dikenal sebagai deepfakes. Ketua Adam Schiff (D-California) memainkan klip spoofing Senator Elizabeth Warren (D-Massachusetts) dan meminta perusahaan media sosial untuk menanggapi ancaman tersebut dengan serius, karena “setelah deepfake viral telah mencemari pemilu 2020, pada saat itu akan terlambat . ” Danielle Citron, seorang profesor hukum di University of Maryland, mengatakan “video dan audio deepfake dapat merusak proses demokrasi dengan memberi tip pada pemilihan.”

Kampanye 2020 sekarang menjadi sejarah. Ada gangguan, tetapi deepfakes tidak berkontribusi. “Tidak juga, tidak,” kata Giorgio Patrini, pendiri Sensity startup pelacakan deepfake. Angie Hayden, direktur produk di AI Foundation, yang sedang menguji alat deteksi deepfake dengan organisasi media dan organisasi nirlaba termasuk BBC, juga melaporkan kampanye diam-diam. “Sangat menyenangkan ketika teknisi Anda menghemat hari, tetapi lebih baik ketika hari tidak perlu diselamatkan,” katanya.

Banyak disinformasi yang berputar-putar, dan masih berputar, di sekitar pemungutan suara baru-baru ini, tetapi video menyesatkan yang berkontribusi tampaknya artisanal, bukan algoritmik. Pemeriksa fakta menemukan video yang dideskripsikan atau diedit secara menipu dengan alat konvensional, seperti klip yang diedit agar tampak seperti Joe Biden menyapa orang Floridians sebagai orang Minnesot. Sebuah foto profil yang dibuat oleh AI ditemukan melekat pada persona palsu yang mendorong noda kotor dan tercela terhadap putra Biden, tetapi itu hanya memainkan peran periferal dalam aksi tersebut.

Twitter dan Facebook menambahkan aturan khusus untuk deepfakes ke kebijakan moderasi mereka pada awal tahun 2020, tetapi tampaknya tidak ada yang menggunakannya. SEBUAH Posting blog Twitter Minggu lalu yang mengumpulkan upaya pemilihannya mengatakan pihaknya telah menambahkan label peringatan konten menyesatkan ke 300.000 tweet sejak 27 Oktober, yang merupakan 0,2 persen dari semua posting terkait pemilu pada periode itu. Itu tidak menyebutkan deepfakes, dan juru bicara perusahaan mengatakan dia “tidak memiliki sesuatu yang spesifik” tentang topik tersebut. Facebook tidak menanggapi permintaan komentar.

Dua kampanye video deepfake yang mencoba membujuk pemilih AS melakukannya secara terbuka, sebagai upaya untuk memperingatkan potensi teknologi tersebut.

Phil Ehr, kandidat Dewan Demokratik di Florida, merilis iklan kampanye yang menampilkan versi deepfake dari lawannya, petahana dari Partai Republik Matt Gaetz, mengatakan frasa yang tidak biasa seperti “Fox News menyebalkan” dan “Obama jauh lebih keren dari saya.” Wajah Ehr sendiri — tampaknya sepenuhnya manusia — menerobos untuk menyampaikan PSA tentang deepfakes dan disinformasi yang didukung negara-bangsa. “Jika kampanye kami bisa membuat video seperti ini, bayangkan apa yang sedang dilakukan Putin sekarang,” katanya.

Panduan WIRED untuk Artificial Intelligence

Algoritme supersmart tidak akan mengambil semua pekerjaan, tetapi mereka belajar lebih cepat dari sebelumnya, melakukan segalanya mulai dari diagnostik medis hingga menayangkan iklan.

Penasihat kampanye Keith Presley mengatakan Ehr, seorang veteran Angkatan Laut yang pernah bekerja di bidang peperangan elektronik, ingin mendorong Gaetz untuk terlibat dalam topik disinformasi, yang menurut Ehr telah diremehkan oleh Gaetz. Kampanye tersebut berhubungan dengan RosebudAI, sebuah startup yang menggunakan teknologi deepfake untuk membuat gambar dan video untuk pemotretan fashion dan perdagangan online. Presley mengatakan kampanye tersebut merancang iklan berdurasi 60 detik untuk meminimalkan kemungkinan tempat itu dapat diubah fungsinya secara jahat, menunjukkan algoritme Gaetz hanya di TV di ruang tamu pemilih, bukan layar penuh, dan termasuk gangguan gratis. Kantor Gaetz tidak menanggapi permintaan komentar.

Meski iklannya canggih, Ehr kalah telak. Presley mengatakan meskipun tidak ada deepfake berbahaya yang muncul selama kampanye, tetap penting untuk mendidik orang. Dia menunjuk ke sebuah paradoks mengamati buah-buah teknologi yang diklaim mampu meniru kenyataan dengan mulus: “Bagaimana orang bisa tahu?”


Diposting oleh : Lagutogel

Tinggalkan Balasan

Alamat email Anda tidak akan dipublikasikan.