Ketika AI Melihat Seorang Pria, Ia Berpikir 'Resmi.' Seorang wanita? 'Tersenyum'

Ketika AI Melihat Seorang Pria, Ia Berpikir ‘Resmi.’ Seorang wanita? ‘Tersenyum’


Semua 20 anggota parlemen tersenyum di foto resmi mereka. Label teratas yang disarankan Google mencatat senyuman hanya untuk satu pria, tetapi untuk tujuh wanita. Layanan visi AI perusahaan melabeli kesepuluh pria tersebut sebagai “pebisnis”, sering kali juga dengan “pejabat” atau “pekerja kantoran”. Hanya lima senator perempuan yang menerima satu atau lebih dari masa jabatan itu. Wanita juga menerima tag terkait penampilan seperti “kulit”, “gaya rambut”, dan “leher”, yang tidak diterapkan pada pria.

Layanan Amazon dan Microsoft tampaknya menunjukkan bias yang kurang jelas, meskipun Amazon melaporkan lebih dari 99 persen yakin bahwa dua dari 10 senator perempuan adalah “perempuan” atau “anak-anak”. Itu tidak menunjukkan salah satu dari 10 pria itu adalah anak di bawah umur. Layanan Microsoft mengidentifikasi jenis kelamin semua laki-laki, tetapi hanya delapan perempuan, menyebut satu laki-laki dan tidak menandai satu jenis kelamin untuk yang lain.

Google mematikan deteksi jenis kelamin layanan penglihatan AI awal tahun ini, mengatakan bahwa jenis kelamin tidak dapat disimpulkan dari penampilan seseorang. Tracy Frey, direktur pengelola AI yang bertanggung jawab di divisi cloud Google, mengatakan bahwa perusahaan terus berupaya mengurangi bias dan menerima masukan dari luar. “Kami selalu berusaha untuk menjadi lebih baik dan terus berkolaborasi dengan pemangku kepentingan luar — seperti peneliti akademis — untuk melanjutkan pekerjaan kami di bidang ini,” katanya. Amazon dan Microsoft menolak berkomentar; kedua layanan perusahaan mengenali gender hanya sebagai biner.

Studi AS-Eropa sebagian terinspirasi oleh apa yang terjadi ketika para peneliti memberi layanan penglihatan Google gambar pemenang penghargaan yang mencolok dari Texas yang menunjukkan seorang balita Honduras menangis saat petugas Patroli Perbatasan AS menahan ibunya. AI Google menyarankan label yang mencakup “kesenangan”, dengan skor 77 persen, lebih tinggi dari skor 52 persen yang diberikan label “anak”. WIRED mendapat saran yang sama setelah mengunggah gambar tersebut ke layanan Google Rabu lalu.

Schwemmer dan rekan-rekannya mulai bermain-main dengan layanan Google dengan harapan dapat membantu mereka mengukur pola bagaimana orang menggunakan gambar untuk membicarakan politik secara online. Apa yang kemudian dia bantu mengungkap tentang bias gender dalam layanan gambar telah meyakinkannya bahwa teknologi tersebut belum siap digunakan oleh para peneliti dengan cara itu, dan bahwa perusahaan yang menggunakan layanan tersebut dapat mengalami konsekuensi yang tidak menyenangkan. “Anda bisa mendapatkan gambaran yang benar-benar palsu tentang realitas,” katanya. Perusahaan yang menggunakan layanan AI miring untuk mengatur koleksi foto yang besar mungkin secara tidak sengaja akan mengaburkan pebisnis wanita, malah mengindeks mereka dengan senyuman mereka.

Ketika gambar ini memenangkan World Press Photo of the Year pada tahun 2019, seorang hakim berkomentar bahwa gambar tersebut menunjukkan “kekerasan yang bersifat psikologis”. Algoritme gambar Google mendeteksi “kesenangan”.

Staf WIRED melalui Google

Diposting oleh : Lagutogel

Tinggalkan Balasan

Alamat email Anda tidak akan dipublikasikan.

Releated

Janet Yellen Akan Mempertimbangkan untuk Membatasi Penggunaan Cryptocurrency

Janet Yellen Akan Mempertimbangkan untuk Membatasi Penggunaan Cryptocurrency

Cryptocurrency bisa datang di bawah pengawasan peraturan yang diperbarui selama empat tahun ke depan jika Janet Yellen, pilihan Joe Biden untuk memimpin Departemen Keuangan, berhasil. Selama sidang konfirmasi Yellen pada hari Selasa di depan Komite Keuangan Senat, Senator Maggie Hassan (D-New Hampshire) bertanya kepada Yellen tentang penggunaan cryptocurrency oleh teroris dan penjahat lainnya. “Cryptocurrency adalah […]