Sebuah Startup Akan Menghilangkan Algoritma yang Dibangun di Atas Data Wajah yang Terlihat Sakit


Akhir tahun lalu, Startup pengenalan wajah San Francisco, Everalbum, memenangkan kontrak senilai $ 2 juta dengan Angkatan Udara untuk menyediakan “kontrol akses yang digerakkan oleh AI”. Senin, tangan lain dari pemerintah AS memberi perusahaan kemunduran.

Komisi Perdagangan Federal mengatakan Everalbum telah setuju untuk menyelesaikan tuduhan bahwa mereka telah menerapkan teknologi pengenalan wajah pada gambar yang diunggah ke aplikasi foto tanpa izin pengguna dan menyimpannya setelah memberi tahu pengguna bahwa gambar itu akan dihapus. Startup ini menggunakan jutaan foto untuk mengembangkan teknologi yang ditawarkan kepada lembaga pemerintah dan pelanggan lain di bawah merek Paravision.

Paravision, sebutan perusahaan sekarang, setuju untuk menghapus data yang dikumpulkan secara tidak tepat. Tapi itu juga menyetujui solusi yang lebih baru: menghapus algoritma apa pun yang dikembangkan dengan foto-foto itu.

Penyelesaian itu membayangi reputasi Paravision, tetapi kepala bagian produk Joey Pritikin mengatakan perusahaan masih dapat memenuhi kontrak Angkatan Udara dan kewajibannya kepada klien lain. Startup tersebut menutup aplikasi konsumen pada bulan Agustus, bulan yang sama ketika mengetahui potensi keluhan FTC, dan meluncurkan teknologi pengenalan wajah yang dikembangkan tanpa data dari aplikasi pada bulan September. Pritikin mengatakan perubahan itu terjadi sebelum FTC diberlakukan, sebagian karena “evolusi dalam sentimen publik” tentang pengenalan wajah.

Komisioner FTC Rohit Chopra, seorang Demokrat, merilis pernyataan pada hari Senin yang memuji ketelitian komisi tersebut dengan Paravision, dengan mengatakan bahwa mereka telah dipaksa untuk “kehilangan hasil penipuannya”.

Dia membandingkan penyelesaian tersebut dengan perjanjian 2019 di mana Google membayar $ 170 juta untuk mengumpulkan data secara ilegal dari anak-anak tanpa persetujuan orang tua. Perusahaan tidak diharuskan menghapus apa pun yang berasal dari data itu. “Para komisaris sebelumnya telah memilih untuk mengizinkan pelanggar hukum perlindungan data untuk mempertahankan algoritme dan teknologi yang memperoleh sebagian besar nilai mereka dari data yang diperoleh secara tidak sah,” tulisnya. Ini adalah koreksi kursus yang penting.

Panduan WIRED untuk Artificial Intelligence

Algoritme supersmart tidak akan mengambil semua pekerjaan, tetapi mereka belajar lebih cepat dari sebelumnya, melakukan segalanya mulai dari diagnostik medis hingga menayangkan iklan.

Ryan Calo, seorang profesor hukum di University of Washington, mengatakan mewajibkan Paravision untuk menghapus algoritme pengenalan wajah yang dilatih dengan gambar yang diduga ilegal menunjukkan FTC mengenali bagaimana kebangkitan pembelajaran mesin telah terjalin erat dengan kumpulan data dan produk perangkat lunak yang berpotensi berbahaya.

Perusahaan teknologi pernah membuat perangkat lunak hanya dengan membayar orang untuk mengetuk tombol yang tepat dalam urutan yang benar. Namun untuk banyak produk seperti model pengenalan wajah atau perangkat lunak pemfilteran video, salah satu bahan terpenting sekarang adalah kumpulan data contoh yang dikurasi dengan cermat untuk dimasukkan ke dalam algoritme pembelajaran mesin. “Ide ini Anda harus menghapus model dan datanya mengakui bahwa hal-hal itu terkait erat,” kata Calo. Sistem pengenalan wajah layak mendapat pengawasan khusus karena membuatnya membutuhkan gambar yang sangat pribadi. “Mereka seperti Soylent Green — terbuat dari manusia.”

David Vladeck, mantan direktur Biro Perlindungan Konsumen FTC dan profesor hukum di Georgetown, mengatakan penyelesaian hari Senin konsisten dengan penyelesaian sebelumnya yang mengharuskan penghapusan data. Pada 2013, perusahaan perangkat lunak DesignerWare dan tujuh pengecer sewa-untuk-memiliki setuju untuk menghapus data geotracking yang dikumpulkan tanpa persetujuan dari spyware yang dipasang di laptop.

Persyaratan penghapusan yang lebih ekspansif pada hari Senin dengan Paravision telah disetujui dengan suara bulat, 5-0, oleh FTC, yang masih dikendalikan oleh mayoritas Partai Republik. Setelah pelantikan presiden terpilih Joe Biden bulan ini, komisi tersebut bisa menjadi mayoritas Demokrat, dan bahkan berpotensi lebih bersemangat untuk mengawasi perusahaan teknologi. Itu bisa mendapatkan dukungan dan sumber daya baru dari Kongres yang dikendalikan Demokrat.

Calo berharap biro iklan tersebut mendapatkan lebih banyak sumber daya dan keahlian teknis untuk membantunya meneliti industri teknologi dengan pijakan yang lebih setara. Satu kegunaan untuk lebih banyak pengetahuan teknologi adalah untuk menemukan cara untuk memeriksa apakah sebuah perusahaan benar-benar telah menghapus tidak hanya data yang diperoleh secara tidak sah tetapi juga keuntungan atau teknologi yang diturunkan darinya. Itu mungkin sulit dilakukan untuk sistem yang melibatkan model pembelajaran mesin kompleks yang dibangun dari berbagai sumber data.

Diposting oleh : Lagutogel