Clearview AI Memiliki Alat Baru untuk Mengidentifikasi Anda di Foto


Clearview AI memiliki memicu kontroversi dengan menggores web untuk foto dan menerapkan pengenalan wajah untuk memberi polisi dan orang lain kemampuan yang belum pernah terjadi sebelumnya untuk mengintip ke dalam kehidupan kita. Sekarang CEO perusahaan ingin menggunakan kecerdasan buatan untuk membuat alat pengawasan Clearview menjadi lebih kuat.

Ini mungkin membuatnya lebih berbahaya dan rawan kesalahan juga.

Clearview telah mengumpulkan miliaran foto dari seluruh situs web yang mencakup Facebook, Instagram, dan Twitter dan menggunakan AI untuk mengidentifikasi orang tertentu dalam gambar. Polisi dan agen pemerintah telah menggunakan database wajah perusahaan untuk membantu mengidentifikasi tersangka dalam foto dengan mengikat mereka ke profil online.

Salah satu pendiri dan CEO perusahaan, Hoan Ton-That, memberi tahu WIRED bahwa Clearview kini telah mengumpulkan lebih dari 10 miliar gambar dari seluruh web—lebih dari tiga kali lipat dari yang dilaporkan sebelumnya.

Ton-Itu mengatakan kumpulan foto yang lebih besar berarti pengguna, paling sering penegak hukum, lebih cenderung menemukan kecocokan saat mencari seseorang. Dia juga mengklaim kumpulan data yang lebih besar membuat alat perusahaan lebih akurat.

Clearview menggabungkan teknik perayapan web, kemajuan dalam pembelajaran mesin yang telah meningkatkan pengenalan wajah, dan mengabaikan privasi pribadi untuk menciptakan alat yang sangat kuat.

Ton-That mendemonstrasikan teknologi melalui aplikasi smartphone dengan mengambil foto reporter. Aplikasi ini menghasilkan lusinan gambar dari berbagai situs web AS dan internasional, masing-masing menunjukkan orang yang benar dalam gambar yang diambil selama lebih dari satu dekade. Daya pikat alat semacam itu jelas, tetapi begitu juga potensi untuk disalahgunakan.

Tindakan Clearview memicu kemarahan publik dan perdebatan yang lebih luas tentang ekspektasi privasi di era smartphone, media sosial, dan AI. Kritikus mengatakan perusahaan mengikis privasi pribadi. ACLU menggugat Clearview di Illinois berdasarkan undang-undang yang membatasi pengumpulan informasi biometrik; perusahaan juga menghadapi gugatan class action di New York dan California. Facebook dan Twitter telah menuntut Clearview berhenti menggores situs mereka.

Dorongan itu tidak menghalangi Ton-Itu. Dia mengatakan dia percaya kebanyakan orang menerima atau mendukung gagasan menggunakan pengenalan wajah untuk menyelesaikan kejahatan. “Orang-orang yang mengkhawatirkannya, mereka sangat vokal, dan itu hal yang baik, karena saya pikir seiring waktu kita dapat mengatasi lebih banyak masalah mereka,” katanya.

Beberapa teknologi baru Clearview mungkin memicu perdebatan lebih lanjut. Ton-That mengatakan sedang mengembangkan cara baru bagi polisi untuk menemukan seseorang, termasuk alat “deblur” dan “pelepas topeng”. Yang pertama mengambil gambar buram dan mempertajamnya menggunakan pembelajaran mesin untuk membayangkan seperti apa gambar yang lebih jelas itu; yang kedua mencoba membayangkan bagian tertutup dari wajah seseorang menggunakan model pembelajaran mesin yang mengisi detail gambar yang hilang menggunakan tebakan terbaik berdasarkan pola statistik yang ditemukan pada gambar lain.

Kemampuan ini dapat membuat teknologi Clearview lebih menarik tetapi juga lebih bermasalah. Masih belum jelas seberapa akurat teknik baru ini bekerja, tetapi para ahli mengatakan mereka dapat meningkatkan risiko bahwa seseorang salah diidentifikasi dan dapat memperburuk bias yang melekat pada sistem.

“Saya mengharapkan akurasi menjadi sangat buruk, dan bahkan di luar akurasi, tanpa kontrol yang cermat atas kumpulan data dan proses pelatihan, saya akan mengharapkan sejumlah besar bias yang tidak diinginkan untuk masuk,” kata Aleksander Madry, seorang profesor di MIT yang berspesialisasi dalam mesin. sedang belajar. Tanpa kehati-hatian, misalnya, pendekatan ini mungkin membuat orang dengan ciri-ciri tertentu lebih mungkin untuk diidentifikasi secara salah.

Bahkan jika teknologinya bekerja seperti yang dijanjikan, kata Madry, etika membuka kedok orang bermasalah. “Pikirkan orang-orang yang menutupi diri mereka untuk mengambil bagian dalam protes damai atau dikaburkan untuk melindungi privasi mereka,” katanya.

Ton-Itu mengatakan tes telah menemukan alat baru meningkatkan akurasi hasil Clearview. “Setiap gambar yang disempurnakan harus dicatat seperti itu, dan perhatian ekstra dilakukan saat mengevaluasi hasil yang mungkin dihasilkan dari gambar yang disempurnakan,” katanya.

Diposting oleh : Lagutogel