Peta Deepfake Benar-benar Bisa Mengacaukan Indra Anda tentang Dunia


Gambar satelit menunjukkan Perluasan kamp penahanan besar di Xinjiang, China, antara 2016 dan 2018 memberikan beberapa bukti terkuat dari tindakan keras pemerintah terhadap lebih dari satu juta Muslim, yang memicu kecaman dan sanksi internasional.

Gambar udara lainnya — instalasi nuklir di Iran dan situs rudal di Korea Utara, misalnya — memiliki dampak serupa pada peristiwa dunia. Sekarang, alat manipulasi gambar yang dimungkinkan oleh kecerdasan buatan dapat mempersulit penerimaan gambar seperti itu begitu saja.

Dalam sebuah makalah yang diterbitkan secara online bulan lalu, profesor Universitas Washington Bo Zhao menggunakan teknik AI yang mirip dengan yang digunakan untuk membuat apa yang disebut deepfakes untuk mengubah gambar satelit dari beberapa kota. Zhao dan rekannya bertukar fitur antara gambar Seattle dan Beijing untuk menunjukkan bangunan yang tidak ada di Seattle dan untuk menghapus struktur dan menggantinya dengan tanaman hijau di Beijing.

Zhao menggunakan algoritma yang disebut CycleGAN untuk memanipulasi foto satelit. Algoritme, yang dikembangkan oleh para peneliti di UC Berkeley, telah banyak digunakan untuk semua jenis tipuan gambar. Ini melatih jaringan saraf tiruan untuk mengenali karakteristik utama dari gambar tertentu, seperti gaya lukisan atau fitur pada jenis peta tertentu. Algoritme lain kemudian membantu menyempurnakan kinerja yang pertama dengan mencoba mendeteksi ketika sebuah gambar telah dimanipulasi.

Peta (kiri atas) dan citra satelit (kanan atas) Tacoma. Gambar bawah telah diubah untuk membuat Tacoma terlihat lebih mirip Seattle (kiri bawah) dan Beijing (kanan bawah).

Atas kebaikan Zhao et al., 2021, Jurnal Kartografi dan Ilmu Informasi Geografis

Seperti klip video deepfake yang dimaksudkan untuk menunjukkan orang-orang dalam situasi yang membahayakan, citra semacam itu dapat menyesatkan pemerintah atau menyebar di media sosial, menaburkan informasi yang salah atau keraguan tentang informasi visual yang nyata.

“Saya benar-benar berpikir ini adalah masalah besar yang mungkin tidak berdampak pada warga rata-rata besok tetapi akan memainkan peran yang jauh lebih besar di belakang layar dalam dekade mendatang,” kata Grant McKenzie, asisten profesor ilmu data spasial di McGill University di Kanada, yang tidak terlibat dengan pekerjaan itu.

“Bayangkan sebuah dunia di mana pemerintah negara bagian, atau aktor lain, dapat secara realistis memanipulasi gambar untuk tidak menampilkan apa pun di sana atau tata letak yang berbeda,” kata McKenzie. “Saya tidak sepenuhnya yakin apa yang bisa dilakukan untuk menghentikannya pada saat ini.”

Beberapa gambar satelit yang dimanipulasi dengan kasar telah menyebar secara viral di media sosial, termasuk foto yang dimaksudkan untuk menunjukkan India menyala selama festival Hindu Diwali yang tampaknya disentuh dengan tangan. Mungkin hanya masalah waktu sebelum citra satelit “deepfake” yang jauh lebih canggih digunakan untuk, misalnya, menyembunyikan instalasi senjata atau secara keliru membenarkan tindakan militer.

Gabrielle Lim, seorang peneliti di Harvard Kennedy School’s Shorenstein Center yang berfokus pada manipulasi media, mengatakan peta dapat digunakan untuk menyesatkan tanpa AI. Dia menunjuk ke gambar diedarkan secara online menunjukkan bahwa Alexandria Ocasio-Cortez tidak berada di tempat yang dia klaim selama pemberontakan Capitol pada 6 Januari, serta paspor China yang menunjukkan wilayah sengketa Laut China Selatan sebagai bagian dari China. “Tidak ada teknologi mewah, tapi bisa mencapai tujuan yang sama,” kata Lim.


Diposting oleh : Lagutogel