Batasan yang Diusulkan Eropa pada AI Akan Memiliki Konsekuensi Global


Uni Eropa mengusulkan aturan yang akan membatasi atau melarang beberapa penggunaan kecerdasan buatan di dalam perbatasannya, termasuk oleh raksasa teknologi yang berbasis di AS dan China.

Aturan tersebut adalah upaya internasional paling signifikan untuk mengatur AI hingga saat ini, yang mencakup pengenalan wajah, mengemudi otonom, dan algoritme yang mendorong iklan online, perekrutan otomatis, dan penilaian kredit. Aturan yang diusulkan dapat membantu membentuk norma dan regulasi global seputar teknologi yang menjanjikan namun kontroversial.

“Ada pesan yang sangat penting secara global bahwa aplikasi AI tertentu tidak diizinkan dalam masyarakat yang didirikan di atas demokrasi, supremasi hukum, hak-hak fundamental,” kata Daniel Leufer, analis kebijakan Eropa dengan Access Now, sebuah organisasi nirlaba hak digital Eropa. Leufer mengatakan aturan yang diusulkan tidak jelas, tetapi mewakili langkah signifikan untuk memeriksa penggunaan teknologi yang berpotensi membahayakan.

Perdebatan tersebut kemungkinan akan diawasi dengan ketat di luar negeri. Aturan akan berlaku untuk perusahaan mana pun yang menjual produk atau layanan di UE.

Pendukung lain mengatakan ada terlalu banyak celah dalam proposal UE untuk melindungi warga dari banyak penyalahgunaan AI. “Fakta bahwa ada semacam larangan itu positif,” kata Ella Jakubowska, petugas kebijakan dan kampanye di European Digital Rights (EDRi) yang berbasis di Brussel. Namun dia mengatakan ketentuan tertentu akan memungkinkan perusahaan dan otoritas pemerintah untuk tetap menggunakan AI dengan cara yang meragukan.

Peraturan yang diusulkan menyarankan, misalnya, melarang aplikasi AI “berisiko tinggi” termasuk penegakan hukum penggunaan AI untuk pengenalan wajah — tetapi hanya jika teknologi tersebut digunakan untuk melihat orang secara real time di ruang publik. Ketentuan ini juga menyarankan pengecualian potensial ketika polisi menyelidiki kejahatan yang dapat dijatuhi hukuman setidaknya tiga tahun.

Jadi Jakubowska mencatat bahwa teknologi tersebut masih dapat digunakan secara retrospektif di sekolah, bisnis, atau pusat perbelanjaan, dan dalam berbagai penyelidikan polisi. “Ada banyak hal yang tidak cukup mendekati hak digital fundamental,” katanya. Kami ingin mereka mengambil sikap yang lebih berani.

Pengenalan wajah, yang menjadi jauh lebih efektif karena kemajuan AI baru-baru ini, sangat diperdebatkan. Ini banyak digunakan di China dan oleh banyak petugas penegak hukum di AS, melalui alat komersial seperti Clearview AI; beberapa kota di AS telah melarang polisi menggunakan teknologi tersebut sebagai tanggapan atas protes publik.

Aturan UE yang diusulkan juga akan melarang “penilaian sosial berbasis AI untuk tujuan umum yang dilakukan oleh otoritas publik,” serta sistem AI yang menargetkan “kelompok rentan tertentu” dengan cara yang akan “secara material mengubah perilaku mereka” untuk menyebabkan “psikologis atau fisik. membahayakan.” Itu berpotensi membatasi penggunaan AI untuk penilaian kredit, perekrutan, atau beberapa bentuk iklan pengawasan, misalnya jika algoritme menempatkan iklan untuk situs taruhan di depan orang-orang yang kecanduan judi.

Peraturan UE akan mewajibkan perusahaan yang menggunakan AI untuk aplikasi berisiko tinggi untuk memberikan penilaian risiko kepada regulator yang menunjukkan keamanan mereka. Mereka yang gagal mematuhi aturan bisa didenda hingga 6 persen dari penjualan global.

Aturan yang diusulkan akan mengharuskan perusahaan untuk memberi tahu pengguna ketika mencoba menggunakan AI untuk mendeteksi emosi orang, atau untuk mengklasifikasikan orang menurut fitur biometrik seperti jenis kelamin, usia, ras, atau orientasi seksual atau orientasi politik — aplikasi yang juga secara teknis meragukan.

Leufer, analis hak digital, mengatakan aturan dapat menghambat bidang investasi tertentu, membentuk arah yang diambil industri AI di UE dan di tempat lain. “Ada narasi bahwa ada perlombaan AI, dan itu tidak masuk akal,” kata Leufer. “Kita tidak boleh bersaing dengan China untuk mendapatkan bentuk kecerdasan buatan yang memungkinkan pengawasan massal.”

Versi rancangan peraturan, dibuat pada Januari, bocor minggu lalu. Versi final berisi perubahan penting, misalnya menghapus bagian yang akan melarang sistem AI berisiko tinggi yang dapat menyebabkan orang “berperilaku, membentuk opini, atau mengambil keputusan yang merugikan yang tidak akan mereka ambil”.

Diposting oleh : Lagutogel