New York City Mengusulkan Algoritma Pengaturan yang Digunakan dalam Perekrutan

New York City Mengusulkan Algoritma Pengaturan yang Digunakan dalam Perekrutan

[ad_1]

Pada tahun 1964, Undang-Undang Hak Sipil melarang manusia yang membuat keputusan perekrutan untuk melakukan diskriminasi atas dasar jenis kelamin atau ras. Sekarang, perangkat lunak sering berkontribusi pada keputusan perekrutan, membantu manajer menyaring resume atau menafsirkan wawancara video.

Hal itu membuat khawatir beberapa pakar teknologi dan kelompok hak sipil, yang mengutip bukti bahwa algoritme dapat mereplikasi atau memperbesar bias yang ditunjukkan oleh orang-orang. Di tahun 2018, Reuters melaporkan bahwa Amazon menghapus alat yang memfilter resume berdasarkan pola perekrutan sebelumnya karena mendiskriminasi wanita.

Legislasi yang diusulkan di Dewan Kota New York berupaya memperbarui aturan diskriminasi perekrutan untuk usia algoritme. RUU tersebut akan mengharuskan perusahaan untuk mengungkapkan kepada kandidat ketika mereka telah dinilai dengan bantuan perangkat lunak. Perusahaan yang menjual alat semacam itu harus melakukan audit tahunan untuk memastikan bahwa teknologi pemilahan orang mereka tidak mendiskriminasi.

Proposal tersebut adalah bagian dari gerakan baru-baru ini di semua tingkat pemerintahan untuk menempatkan batasan hukum pada algoritme dan perangkat lunak yang membentuk keputusan yang mengubah hidup — keputusan yang dapat beralih ke perangkat baru ketika Demokrat mengambil kendali Gedung Putih dan kedua majelis Kongres.

Lebih dari selusin kota di AS telah melarang penggunaan pengenalan wajah oleh pemerintah, dan negara bagian New York baru-baru ini mengeluarkan moratorium dua tahun untuk penggunaan teknologi di sekolah. Beberapa anggota parlemen federal telah mengusulkan undang-undang untuk mengatur algoritme wajah dan alat keputusan otomatis yang digunakan oleh perusahaan, termasuk untuk perekrutan. Pada bulan Desember, 10 senator meminta Komisi Kesempatan Kerja yang Setara tentang bias polisi dalam alat perekrutan AI, dengan mengatakan mereka khawatir teknologi tersebut dapat memperdalam kesenjangan rasial dalam pekerjaan dan merusak pemulihan ekonomi dari Covid-19 di komunitas yang terpinggirkan. Juga tahun lalu, undang-undang baru mulai berlaku di Illinois yang membutuhkan persetujuan sebelum menggunakan analisis video terhadap calon karyawan; undang-undang Maryland yang serupa membatasi penggunaan teknologi analisis wajah dalam perekrutan.

Pembuat undang-undang lebih terlatih dalam berbicara tentang mengatur algoritme baru dan alat AI daripada menerapkan aturan semacam itu. Beberapa bulan setelah San Francisco melarang pengenalan wajah pada tahun 2019, peraturan tersebut harus diubah karena secara tidak sengaja membuat iPhone milik kota menjadi ilegal.

Proposal Kota New York yang diluncurkan oleh anggota dewan Demokrat Laurie Cumbo akan mengharuskan perusahaan menggunakan apa yang disebut alat keputusan ketenagakerjaan otomatis untuk membantu menyaring kandidat atau memutuskan persyaratan seperti kompensasi untuk mengungkapkan penggunaan teknologi. Vendor perangkat lunak semacam itu akan diminta untuk melakukan “audit bias” atas produk mereka setiap tahun dan menyediakan hasilnya bagi pelanggan.

Proposal tersebut menghadapi perlawanan dari beberapa sekutu yang tidak biasa, serta pertanyaan yang belum terselesaikan tentang bagaimana itu akan beroperasi. Eric Ellman, wakil presiden senior untuk kebijakan publik di Asosiasi Industri Data Konsumen, yang mewakili perusahaan pemeriksa kredit dan latar belakang, mengatakan RUU tersebut dapat membuat perekrutan menjadi kurang adil dengan menempatkan beban baru pada perusahaan yang menjalankan pemeriksaan latar belakang atas nama pemberi kerja. Dia berpendapat bahwa pemeriksaan semacam itu dapat membantu manajer mengatasi keengganan untuk mempekerjakan orang dari kelompok demografis tertentu.

Beberapa kelompok hak sipil dan pakar AI juga menentang RUU tersebut — karena alasan berbeda. Albert Fox Cahn, pendiri Proyek Pengawasan Teknologi Pengawasan, mengatur surat dari 12 kelompok termasuk NAACP dan Institut AI Now Universitas New York yang keberatan dengan undang-undang yang diusulkan. Cahn ingin mengatur perekrutan teknologi, tetapi dia mengatakan proposal New York dapat memungkinkan perangkat lunak yang melanggengkan diskriminasi mendapatkan stempel sebagai telah lulus audit keadilan.

Cahn menginginkan undang-undang apa pun untuk mendefinisikan teknologi yang tercakup secara lebih luas, tidak membiarkan vendor memutuskan cara mengaudit teknologi mereka sendiri, dan mengizinkan individu untuk menuntut untuk menegakkan hukum. “Kami tidak melihat bentuk penegakan hukum yang berarti terhadap diskriminasi yang kami khawatirkan,” katanya.

Yang lain memiliki keprihatinan tetapi masih mendukung proposal New York. “Saya berharap RUU ini akan diteruskan,” kata Julia Stoyanovich, direktur Pusat AI yang Bertanggung Jawab di Universitas New York. Saya juga berharap itu akan direvisi.

Diposting oleh : Lagutogel

Releated

Teks Yang Didukung AI Dari Program Ini Bisa Menipu Pemerintah

Teks Yang Didukung AI Dari Program Ini Bisa Menipu Pemerintah

[ad_1] Pada bulan Oktober 2019, Idaho mengusulkan untuk mengubah program Medicaidnya. Negara bagian membutuhkan persetujuan dari pemerintah federal, yang meminta umpan balik publik melalui Medicaid.gov. Sekitar 1.000 komentar tiba. Tapi setengahnya bukan dari warga yang peduli atau bahkan troll internet. Mereka dihasilkan oleh kecerdasan buatan. Dan sebuah penelitian menemukan bahwa orang tidak dapat membedakan antara […]

Algoritma Membantu Komunitas Mendeteksi Pipa Timbal

Algoritma Membantu Komunitas Mendeteksi Pipa Timbal

[ad_1] Lebih dari enam Bertahun-tahun setelah penduduk Flint, Michigan, menderita keracunan timbal yang meluas dari air minum mereka, ratusan juta dolar telah dihabiskan untuk meningkatkan kualitas air dan meningkatkan perekonomian kota. Namun warga masih melaporkan sejenis PTSD komunitas, menunggu di antrean panjang toko bahan makanan untuk membeli air kemasan dan filter. Laporan media Rabu mengatakan […]