Peneliti Mengaburkan Wajah yang Meluncurkan Seribu Algoritma


Pada 2012, buatan peneliti intelijen membuat lompatan besar dalam visi komputer, sebagian berkat kumpulan gambar yang sangat besar — ​​ribuan objek, orang, dan pemandangan sehari-hari dalam foto yang diambil dari web dan diberi label dengan tangan. Kumpulan data itu, yang dikenal sebagai ImageNet, masih digunakan dalam ribuan proyek penelitian dan eksperimen AI hingga saat ini.

Namun minggu lalu setiap wajah manusia yang termasuk dalam ImageNet tiba-tiba menghilang — setelah peneliti yang mengelola kumpulan data memutuskan untuk memburamkannya.

Sama seperti ImageNet yang membantu mengantarkan era baru AI, upaya untuk memperbaikinya mencerminkan tantangan yang memengaruhi program, kumpulan data, dan produk AI yang tak terhitung jumlahnya.

“Kami prihatin tentang masalah privasi,” kata Olga Russakovsky, asisten profesor di Universitas Princeton dan salah satu dari mereka yang bertanggung jawab untuk mengelola ImageNet.

ImageNet dibuat sebagai bagian dari tantangan yang mengundang ilmuwan komputer untuk mengembangkan algoritme yang mampu mengidentifikasi objek dalam gambar. Pada tahun 2012, ini adalah tugas yang sangat sulit. Kemudian teknik yang disebut pembelajaran dalam, yang melibatkan “mengajar” jaringan saraf dengan memberi contoh berlabel, terbukti lebih mahir dalam tugas daripada pendekatan sebelumnya.

Sejak itu, pembelajaran mendalam telah mendorong kebangkitan AI yang juga mengungkap kekurangan bidang ini. Misalnya, pengenalan wajah telah membuktikan penggunaan deep learning yang sangat populer dan menguntungkan, tetapi juga kontroversial. Sejumlah kota di AS telah melarang penggunaan teknologi oleh pemerintah karena kekhawatiran tentang pelanggaran privasi atau bias warga negara, karena program tersebut kurang akurat pada wajah non-kulit putih.

Saat ini ImageNet berisi 1,5 juta gambar dengan sekitar 1.000 label. Ini sebagian besar digunakan untuk mengukur kinerja algoritme pembelajaran mesin, atau untuk melatih algoritme yang melakukan tugas penglihatan komputer khusus. Memburamkan wajah memengaruhi 243.198 gambar.

Russakovsky mengatakan tim ImageNet ingin menentukan apakah mungkin memburamkan wajah dalam kumpulan data tanpa mengubah seberapa baik ia mengenali objek. “Orang-orang tidak disengaja dalam data karena mereka muncul di foto web yang menggambarkan objek ini,” katanya. Dengan kata lain, dalam gambar yang menunjukkan botol bir, meskipun wajah orang yang meminumnya berwarna merah muda, botol itu sendiri tetap utuh.

Dalam makalah penelitian, yang diposting bersama dengan pembaruan ke ImageNet, tim di balik kumpulan data menjelaskan bahwa itu mengaburkan wajah menggunakan Rekognition layanan AI Amazon; kemudian, mereka membayar pekerja Mechanical Turk untuk mengonfirmasi pilihan dan menyesuaikannya.

Memburamkan wajah tidak memengaruhi kinerja beberapa algoritme pengenalan objek yang dilatih di ImageNet, kata para peneliti. Mereka juga menunjukkan bahwa algoritme lain yang dibangun dengan algoritme pengenalan objek tersebut juga tidak terpengaruh. “Kami berharap bukti konsep ini membuka jalan bagi praktik pengumpulan data visual yang lebih sadar privasi di lapangan,” kata Russakovsky.

Ini bukanlah upaya pertama untuk menyesuaikan pustaka gambar yang terkenal. Pada Desember 2019, tim ImageNet menghapus istilah yang bias dan menghina yang diperkenalkan oleh pemberi label manusia setelah sebuah proyek bernama Excavating AI menarik perhatian ke masalah tersebut.

Pada Juli 2020 Vinay Prabhu, seorang ilmuwan pembelajaran mesin di UnifyID dan Abeba Birhane, seorang kandidat PhD di University College Dublin di Irlandia, menerbitkan penelitian yang menunjukkan mereka dapat mengidentifikasi individu, termasuk peneliti ilmu komputer, dalam kumpulan data. Mereka juga menemukan gambar porno termasuk di dalamnya.

Prabhu mengatakan bahwa mengaburkan wajah itu bagus tetapi kecewa karena tim ImageNet tidak mengakui pekerjaan yang dia dan Birhane lakukan. Russakovsky mengatakan sebuah kutipan akan muncul dalam versi terbaru dari makalah tersebut.

Diposting oleh : Lagutogel