Verifikasi Wajah Tidak Akan Melawan Penipuan


Dengan AS ekonomi baru saja mulai pulih dari Covid-19 dan jutaan masih kehilangan pekerjaan, Kongres mengesahkan tunjangan pengangguran yang diperluas yang melengkapi program bantuan negara. Meskipun patut dipuji untuk membentengi orang Amerika yang berjuang selama krisis yang sedang berlangsung, aktor jahat telah membuat penipuan pengangguran menjadi masalah serius. Sayangnya, banyak negara bagian yang berusaha menghentikan penipuan melalui pengawasan memasang sistem bias yang mungkin jauh lebih berbahaya daripada menguntungkan. Bisa ditebak, sistem ini membuat kesalahan, dan ketika mereka melakukannya, mereka sebagian besar menghukum BIPOC, trans, dan orang Amerika yang tidak sesuai gender

Dua puluh satu negara bagian telah beralih ke layanan verifikasi ID biometrik berteknologi tinggi yang menggunakan visi komputer untuk menentukan apakah orang adalah orang yang mereka klaim. Ini adalah teknologi yang sama yang memungkinkan pengguna untuk membuka kunci ponsel mereka dengan wajah mereka—proses pencocokan satu-ke-satu di mana perangkat lunak menyimpulkan apakah fitur wajah Anda cocok dengan yang disimpan pada satu template. Tetapi meskipun verifikasi wajah umum untuk perangkat konsumen, itu relatif jarang untuk layanan pemerintah. Itu harus tetap seperti itu.

Anda mungkin percaya wajah verifikasi tidak berbahaya karena kontroversi yang tidak akan hilang sebagian besar berkisar pada wajah pengakuan. Polisi menggunakan pengenalan wajah ketika mereka menjalankan gambar tersangka terhadap database yang berisi gambar mug atau foto SIM, di mana algoritma mencoba untuk menemukan kecocokan. Mengandalkan teknologi pengenalan wajah membuat polisi salah menangkap setidaknya tiga pria kulit hitam, dan kemungkinan masih banyak lagi.

Tapi verifikasi wajah juga bisa bias. Ketika kesalahan muncul, dan itu sudah terjadi di California, secara historis dan tidak proporsional berpusat pada demografi gender dan ras. Untuk program penipuan manfaat, ketergantungan pemerintah pada verifikasi wajah menciptakan risiko tinggi bahwa pelamar kulit berwarna, trans, dan non-biner akan memiliki klaim yang berjalan lambat atau bahkan ditolak. Hasil ini dapat mempersulit Anda untuk menyalakan lampu atau atap di atas kepala Anda. Lebih buruk lagi, penegak hukum mungkin terlalu menginterogasi orang-orang yang rentan karena algoritme yang bias menimbulkan skeptisisme tentang siapa mereka. Interaksi semacam itu dapat menyebabkan penangkapan yang salah, penuntutan, dan hak gadai pemerintah bagi mereka yang telah melakukan tidak lebih dari gagal dalam tes algoritmik yang cacat.

Sayangnya dapat diprediksi bahwa lembaga pemerintah menciptakan kondisi untuk melanggengkan ketidakadilan algoritmik. Ketika Michigan meluncurkan Sistem Otomatis Data Terintegrasi pada tahun 2013, inisiatif ini ditandai sebagai keberhasilan untuk menandai lima kali lebih banyak kasus penipuan pengangguran dan menghasilkan $65 juta dalam denda dan biaya baru. Ternyata, perangkat lunak itu tidak dapat diandalkan. Sistem salah menandai puluhan ribu Michiganders, dan manusia membuat penilaian otomatis, mengakibatkan kebangkrutan dan lebih buruk.

Meningkatkan ketergantungan pada aplikasi smartphone seperti ID.me juga meningkatkan risiko kesenjangan digital. Banyak orang Amerika berpenghasilan rendah dan lanjut usia berisiko tidak dapat mengakses layanan penting pemerintah, hanya karena mereka tidak memiliki ponsel dengan kamera dan browser web.

Seperti halnya perluasan analisis biometrik, ada ancaman kuat kedua. Penggunaan verifikasi wajah semakin menormalkan harapan bahwa tubuh kita harus digunakan sebagai tanda pengenal pemerintah. Setiap kali pemerintah melakukan verifikasi dan pengenalan wajah, itu menciptakan momentum untuk merayap lebih lanjut.

Kabar baiknya adalah menghentikan penipuan tidak memerlukan biometrik. Mengakui bahwa ada alternatif lain membutuhkan pengakuan bahwa itu adalah masalah signifikan bahwa orang Amerika tidak memiliki sistem ID digital yang aman. Respons tambal sulam berarti beberapa sistem akan menggunakan sebagian atau seluruh nomor jaminan sosial Anda—hasil yang mengubah nomor jaminan sosial menjadi target berharga bagi peretas. Sistem lain menggunakan transaksi kartu kredit dan riwayat kredit. Pendekatan ini rawan kesalahan dan kurang inklusif, terutama karena 7,1 juta rumah tangga Amerika tetap tidak memiliki rekening bank.

Yang diperlukan adalah dokumen identitas yang aman, sesuatu seperti SIM digital atau ID negara bagian yang dilengkapi dengan kunci kriptografik yang aman. Dengan cara ini, pengguna dapat memberikan informasi otentikasi tanpa terdaftar dalam sistem otomatis yang dirusak oleh bias dan pengawasan yang merayap. Meskipun ini bukan solusi yang sempurna, kita seharusnya tidak mencarinya. Sistem apa pun yang memungkinkan untuk membuktikan identitas Anda secara meyakinkan kapan saja, seperti ID universal yang harus dimiliki setiap orang, adalah alat pengawasan massal. Dengan mengadopsi strategi ID digital yang menjaga privasi, kami dapat mengurangi risiko penipuan manfaat dan bentuk pencurian identitas lainnya sambil juga menjaga privasi, kesetaraan, dan hak-hak sipil.


Opini KABEL menerbitkan artikel oleh kontributor luar yang mewakili berbagai sudut pandang. Baca lebih banyak pendapat sini, dan lihat pedoman pengiriman kami sini. Kirimkan op-ed di [email protected].


Lebih Banyak Cerita WIRED yang Hebat


Diposting oleh : Toto HK