Retorika AI yang Bisu Membahayakan Semua Orang


Saat orang Eropa Union Commission merilis proposal pengaturannya pada kecerdasan buatan bulan lalu, banyak komunitas kebijakan AS merayakannya. Pujian mereka setidaknya sebagian didasarkan pada kebenaran: Negara-negara demokratis paling kuat di dunia belum cukup mengatur AI dan teknologi baru lainnya, dan dokumen tersebut menandai sesuatu dari sebuah langkah maju. Namun, sebagian besar, proposal dan tanggapannya menggarisbawahi retorika membingungkan demokrasi tentang AI.

Selama dekade terakhir, tujuan tingkat tinggi yang dinyatakan tentang pengaturan AI sering bertentangan dengan spesifikasi proposal regulasi, dan seperti apa keadaan akhir seharusnya tidak diartikulasikan dengan baik dalam kedua kasus. Kemajuan yang koheren dan bermakna dalam mengembangkan regulasi AI demokratis yang menarik secara internasional, meskipun itu mungkin berbeda dari satu negara ke negara lain, dimulai dengan menyelesaikan banyak kontradiksi wacana dan karakterisasi yang tidak kentara.

Komisi Uni Eropa telah memuji proposalnya sebagai landmark regulasi AI. Wakil presiden eksekutif Margrethe Vestager mengatakan saat dirilis, “Kami pikir ini mendesak. Kami adalah yang pertama di planet ini yang menyarankan kerangka hukum ini. ” Thierry Breton, komisaris lainnya, mengatakan proposal “bertujuan untuk memperkuat posisi Eropa sebagai pusat keunggulan global dalam AI dari lab hingga pasar, memastikan bahwa AI di Eropa menghormati nilai dan aturan kami, dan memanfaatkan potensi AI untuk penggunaan industri . ”

Ini tentu lebih baik daripada banyak pemerintah nasional, terutama AS, yang stagnan dalam aturan jalan bagi perusahaan, lembaga pemerintah, dan lembaga lainnya. AI sudah banyak digunakan di UE meskipun pengawasan dan akuntabilitas minimal, baik untuk pengawasan di Athena atau mengoperasikan bus di Málaga, Spanyol.

Tetapi untuk menjadikan peraturan UE sebagai “memimpin” hanya karena itu pertama hanya menutupi banyak masalah proposal. Lompatan retoris semacam ini adalah salah satu tantangan pertama yang dihadapi dengan strategi AI yang demokratis.

Dari sekian banyak “Spesifik” dalam proposal 108 halaman, pendekatannya untuk mengatur pengenalan wajah sangat penting. “Penggunaan sistem AI untuk identifikasi biometrik jarak jauh ‘real-time’ dari orang perseorangan di ruang yang dapat diakses publik untuk tujuan penegakan hukum,” bunyi itu, “dianggap sangat mengganggu hak dan kebebasan orang yang bersangkutan,” sebagai hal itu dapat memengaruhi kehidupan pribadi, “menimbulkan perasaan pengawasan terus-menerus,” dan “secara tidak langsung menghalangi pelaksanaan kebebasan berkumpul dan hak-hak fundamental lainnya.” Pada pandangan pertama, kata-kata ini mungkin menandakan keselarasan dengan kekhawatiran banyak aktivis dan ahli etika teknologi tentang bahaya yang dapat ditimbulkan oleh pengenalan wajah pada komunitas yang terpinggirkan dan risiko pengawasan massal yang serius.

Komisi kemudian menyatakan, “Penggunaan sistem tersebut untuk tujuan penegakan hukum harus dilarang.” Namun, ini akan memungkinkan pengecualian dalam “tiga situasi yang dicantumkan secara lengkap dan didefinisikan secara sempit”. Di sinilah celah berperan.

Pengecualian termasuk situasi yang “melibatkan pencarian calon korban kejahatan, termasuk anak hilang; ancaman tertentu terhadap kehidupan atau keselamatan fisik orang atau serangan teroris; dan deteksi, pelokalan, identifikasi atau penuntutan pelaku atau tersangka tindak pidana. ” Bahasa ini, untuk semua skenario yang dideskripsikan sebagai “didefinisikan secara sempit”, menawarkan banyak sekali pembenaran bagi penegak hukum untuk menerapkan pengenalan wajah sesuai keinginan. Mengizinkan penggunaannya dalam “identifikasi” dari “pelaku atau tersangka” tindak pidana, misalnya, akan memungkinkan jenis penggunaan yang diskriminatif dari algoritme pengenalan wajah yang sering rasis dan seksis yang telah lama diperingatkan oleh para aktivis.

Pengawas privasi UE, Pengawas Perlindungan Data Eropa, dengan cepat menerkam hal ini. “Pendekatan yang lebih ketat diperlukan mengingat identifikasi biometrik jarak jauh, di mana AI dapat berkontribusi pada perkembangan yang belum pernah terjadi sebelumnya, menghadirkan risiko yang sangat tinggi dari gangguan yang dalam dan non-demokratis ke dalam kehidupan pribadi individu,” bunyi pernyataan EDPS. Sarah Chander dari organisasi nirlaba European Digital Rights mendeskripsikan proposal ke Verge sebagai “lapisan perlindungan hak fundamental.” Yang lain telah mencatat bagaimana pengecualian ini mencerminkan undang-undang di AS yang di permukaan tampaknya membatasi penggunaan pengenalan wajah tetapi pada kenyataannya memiliki banyak ukiran yang luas.

Diposting oleh : Toto HK