Perjuangan untuk Menentukan Kapan AI ‘Risiko Tinggi’


Para pemimpin UE bersikeras bahwa menjawab pertanyaan etis seputar AI akan mengarah pada pasar yang lebih kompetitif untuk barang dan layanan AI, meningkatkan adopsi AI, dan membantu kawasan bersaing bersama China dan Amerika Serikat. Regulator berharap label berisiko tinggi mendorong praktik bisnis yang lebih profesional dan bertanggung jawab.

Responden bisnis mengatakan rancangan undang-undang itu terlalu jauh, dengan biaya dan aturan yang akan menghambat inovasi. Sementara itu, banyak kelompok hak asasi manusia, etika AI, dan kelompok antidiskriminasi berpendapat bahwa UU AI tidak berjalan cukup jauh, membuat orang rentan terhadap bisnis dan pemerintah yang kuat dengan sumber daya untuk menerapkan sistem AI yang canggih. (RUU khususnya tidak mencakup penggunaan AI oleh militer.)

(Kebanyakan) Ketat Bisnis

Sementara beberapa komentar publik tentang Undang-Undang AI datang dari masing-masing warga negara Uni Eropa, tanggapan terutama datang dari kelompok profesional untuk ahli radiologi dan ahli onkologi, serikat pekerja untuk pendidik Irlandia dan Jerman, dan bisnis besar Eropa seperti Nokia, Philips, Siemens, dan BMW Group.

Perusahaan Amerika juga terwakili dengan baik, dengan komentar dari Facebook, Google, IBM, Intel, Microsoft, OpenAI, Twilio, dan Workday. Bahkan, menurut data yang dikumpulkan oleh staf Komisi Eropa, Amerika Serikat menduduki peringkat keempat sebagai sumber komentar terbanyak, setelah Belgia, Prancis, dan Jerman.

Banyak perusahaan menyatakan keprihatinan tentang biaya regulasi baru dan mempertanyakan bagaimana sistem AI mereka sendiri akan diberi label. Facebook ingin Komisi Eropa lebih eksplisit tentang apakah mandat Undang-Undang AI untuk melarang teknik bawah sadar yang memanipulasi orang meluas ke iklan bertarget. Equifax dan MasterCard masing-masing menentang penetapan risiko tinggi untuk setiap AI yang menilai kelayakan kredit seseorang, mengklaim itu akan meningkatkan biaya dan mengurangi keakuratan penilaian kredit. Namun, banyak penelitian telah menemukan contoh diskriminasi yang melibatkan algoritma, layanan keuangan, dan pinjaman.

NEC, perusahaan pengenalan wajah Jepang, berpendapat bahwa Undang-Undang AI menempatkan tanggung jawab yang tidak semestinya pada penyedia sistem AI daripada pengguna dan bahwa proposal rancangan untuk memberi label semua sistem identifikasi biometrik jarak jauh sebagai risiko tinggi akan membawa biaya kepatuhan yang tinggi.

Salah satu perselisihan besar yang dimiliki perusahaan dengan rancangan undang-undang tersebut adalah bagaimana ia memperlakukan model tujuan umum atau yang telah dilatih sebelumnya yang mampu menyelesaikan berbagai tugas, seperti GPT-3 OpenAI atau model multimodal eksperimental Google MUM. Beberapa dari model ini adalah open source, dan yang lainnya adalah kreasi eksklusif yang dijual kepada pelanggan oleh perusahaan layanan cloud yang memiliki bakat AI, data, dan sumber daya komputasi yang diperlukan untuk melatih sistem tersebut. Dalam tanggapan 13 halaman terhadap Undang-Undang AI, Google berpendapat bahwa akan sulit atau tidak mungkin bagi pencipta sistem AI tujuan umum untuk mematuhi aturan.

Perusahaan lain yang bekerja pada pengembangan sistem tujuan umum atau kecerdasan umum buatan seperti Google DeepMind, IBM, dan Microsoft juga menyarankan perubahan untuk memperhitungkan AI yang dapat melakukan banyak tugas. OpenAI mendesak Komisi Eropa untuk menghindari larangan sistem tujuan umum di masa depan, bahkan jika beberapa kasus penggunaan mungkin termasuk dalam kategori berisiko tinggi.

Bisnis juga ingin melihat pembuat UU AI mengubah definisi terminologi kritis. Perusahaan seperti Facebook berpendapat bahwa RUU tersebut menggunakan terminologi yang terlalu luas untuk mendefinisikan sistem berisiko tinggi, yang mengakibatkan regulasi yang berlebihan. Yang lain menyarankan lebih banyak perubahan teknis. Google, misalnya, menginginkan definisi baru ditambahkan ke rancangan undang-undang yang membedakan antara “penyebar” sistem AI dan “penyedia,” “distributor,” atau “importir” sistem AI. Melakukan hal itu, menurut pendapat perusahaan, dapat menempatkan tanggung jawab atas modifikasi yang dilakukan pada sistem AI pada bisnis atau entitas yang membuat perubahan daripada perusahaan yang menciptakan aslinya. Microsoft membuat rekomendasi serupa.

Biaya AI Berisiko Tinggi

Lalu ada masalah berapa banyak label berisiko tinggi akan membebani bisnis.

Sebuah studi oleh staf Komisi Eropa menempatkan biaya kepatuhan untuk satu proyek AI di bawah AI Act sekitar 10.000 euro dan menemukan bahwa perusahaan dapat mengharapkan biaya keseluruhan awal sekitar 30.000 euro. Ketika perusahaan mengembangkan pendekatan profesional dan dianggap sebagai bisnis seperti biasa, perusahaan memperkirakan biaya akan turun mendekati 20.000 euro. Studi ini menggunakan model yang dibuat oleh Kantor Statistik Federal di Jerman dan mengakui bahwa biaya dapat bervariasi tergantung pada ukuran dan kompleksitas proyek. Karena pengembang memperoleh dan menyesuaikan model AI, kemudian menyematkannya ke dalam produk mereka sendiri, penelitian ini menyimpulkan bahwa “ekosistem yang kompleks berpotensi melibatkan pembagian kewajiban yang kompleks.”

Diposting oleh : Lagutogel