Algoritma Pangkas Foto Twitter Memihak Wajah Putih dan Wanita


Musim gugur yang lalu, orang Kanada Mahasiswa Colin Madland memperhatikan bahwa algoritma pemangkasan otomatis Twitter terus-menerus memilih wajahnya — bukan rekannya yang berkulit lebih gelap — dari foto pasangan tersebut untuk ditampilkan dalam tweet. Itu episode memicu tuduhan pengguna Twitter menerbitkan foto memanjang untuk melihat apakah AI akan memilih wajah orang kulit putih daripada orang kulit hitam atau jika fokusnya pada dada wanita di atas wajah mereka.

Saat itu, juru bicara Twitter mengatakan penilaian algoritme sebelum diluncurkan pada 2018 ditemukan tidak ada bukti ras atau bias gender. Sekarang, analisis AI terbesar hingga saat ini menemukan kebalikannya: bahwa algoritme Twitter lebih menyukai orang kulit putih daripada orang kulit hitam. Penilaian itu juga menemukan bahwa AI untuk memprediksi bagian paling menarik dari sebuah foto tidak fokus pada tubuh perempuan daripada wajah perempuan.

Tes sebelumnya oleh Twitter dan peneliti Vinay Prabhu melibatkan beberapa ratus gambar atau kurang. Analisis yang dirilis oleh ilmuwan riset Twitter pada Rabu didasarkan pada 10.000 pasangan gambar dari kelompok demografis yang berbeda untuk menguji siapa yang disukai algoritme tersebut.

Peneliti menemukan bias ketika algoritme itu menunjukkan foto orang-orang dari dua kelompok demografis. Akhirnya, algoritme memilih satu orang yang wajahnya akan muncul di timeline Twitter, dan beberapa grup terwakili dengan lebih baik di platform daripada yang lain. Ketika peneliti memasukkan gambar pria kulit hitam dan wanita kulit putih ke dalam sistem, algoritme memilih untuk menampilkan wanita kulit putih 64 persen dari waktu dan pria kulit hitam hanya 36 persen dari waktu, kesenjangan terbesar untuk setiap kelompok demografis yang termasuk dalam analisis. Untuk gambar wanita kulit putih dan pria kulit putih, algoritme menampilkan wanita tersebut 62 persen dari waktu. Untuk gambar wanita kulit putih dan wanita kulit hitam, algoritme menampilkan 57 persen wanita kulit putih.

Pada tanggal 5 Mei, Twitter menghapus pemotongan gambar untuk satu foto yang diposting menggunakan aplikasi smartphone Twitter, pendekatan yang disukai oleh kepala desain Twitter Dantley Davis. sejak kontroversi algoritma meletus musim gugur lalu. Perubahan tersebut membuat orang memposting foto tinggi dan menandai akhir dari tweet “terbuka untuk kejutan”.

Algoritma saliency yang disebut masih digunakan di Twitter.com serta untuk memotong tweet multi-gambar dan membuat thumbnail gambar. Seorang juru bicara Twitter mengatakan foto yang terlalu tinggi atau lebar sekarang dipangkas di tengah, dan perusahaan berencana untuk mengakhiri penggunaan algoritme di situs Twitter. Algoritma saliency dilatih dengan melacak apa yang dilihat orang saat mereka melihat gambar.

Situs lain, termasuk Facebook dan Instagram, telah menggunakan pemangkasan otomatis berbasis AI. Facebook tidak menanggapi permintaan komentar.

Tuduhan bias gender dan ras dalam sistem visi komputer, sayangnya, cukup umum. Google baru-baru ini merinci upaya untuk meningkatkan cara kerja kamera Android untuk orang-orang berkulit gelap. Minggu lalu, grup Algorithm Watch menemukan bahwa AI pelabelan gambar yang digunakan pada iPhone berlabel kartun yang menggambarkan orang-orang berkulit gelap sebagai “binatang”. Seorang juru bicara Apple menolak berkomentar.

Terlepas dari hasil pengukuran keadilan, peneliti Twitter mengatakan pengambilan keputusan algoritmik dapat mengambil pilihan dari pengguna dan memiliki dampak yang luas, terutama untuk kelompok orang yang terpinggirkan.

Dalam studi yang baru dirilis, peneliti Twitter mengatakan mereka tidak menemukan bukti bahwa algoritma pemangkasan foto lebih menyukai tubuh wanita daripada wajah mereka. Untuk menentukan ini, mereka memberi algoritme 100 gambar yang dipilih secara acak dari orang-orang yang diidentifikasi sebagai wanita, dan menemukan bahwa hanya tiga tubuh yang terpusat di atas wajah. Peneliti menyarankan hal ini karena adanya lencana atau nomor punggung di dada orang. Untuk melakukan penelitian, peneliti menggunakan foto dari dataset WikiCeleb; ciri-ciri identitas orang dalam foto diambil dari Wikidata.


Diposting oleh : Lagutogel