Layanan Skrining Pekerjaan Menghentikan Analisis Wajah Pelamar


Pemburu kerja mungkin sekarang perlu mengesankan tidak hanya calon bos tetapi juga algoritme kecerdasan buatan — karena pemberi kerja menyaring kandidat dengan meminta mereka menjawab pertanyaan wawancara di video yang kemudian dinilai oleh mesin.

HireVue, penyedia perangkat lunak terkemuka untuk memeriksa kandidat pekerjaan berdasarkan penilaian algoritmik, mengatakan Selasa itu membunuh fitur kontroversial dari perangkat lunaknya: menganalisis ekspresi wajah seseorang dalam video untuk melihat karakteristik tertentu.

Pencari kerja yang disaring oleh HireVue duduk di depan kamera web dan menjawab pertanyaan. Perilaku, intonasi, dan ucapan mereka diumpankan ke algoritme yang menetapkan sifat dan kualitas tertentu.

HireVue mengatakan bahwa “audit algoritmik” dari perangkat lunaknya yang dilakukan tahun lalu menunjukkan bahwa ia tidak memiliki bias. Tetapi Pusat Informasi Privasi Elektronik nirlaba telah mengajukan keluhan terhadap perusahaan tersebut ke Komisi Perdagangan Federal pada 2019.

CEO HireVue Kevin Parker mengakui bahwa protes publik atas penggunaan perangkat lunak untuk menganalisis ekspresi wajah dalam video adalah bagian dari kalkulasi. “Itu menambah nilai bagi pelanggan, tetapi itu tidak sepadan dengan perhatiannya,” katanya.

Audit algoritmik dilakukan oleh perusahaan luar, Konsultasi Risiko O’Neil dan Audit Algoritmik. Perusahaan tidak menanggapi permintaan komentar.

Alex Engler, seorang rekan di Brookings Institution yang telah mempelajari perekrutan AI, mengatakan gagasan menggunakan AI untuk menentukan kemampuan seseorang, apakah itu berdasarkan video, audio, atau teks, tidak masuk akal. Dia mengatakan juga bermasalah bahwa masyarakat tidak dapat memeriksa klaim tersebut.

“Ada bagian yang mungkin dapat dibantu oleh pembelajaran mesin, tetapi wawancara yang sepenuhnya otomatis, di mana Anda membuat kesimpulan tentang kinerja pekerjaan — itu buruk,” katanya. Kecerdasan buatan modern tidak dapat membuat kesimpulan seperti itu.

HireVue mengatakan bahwa sekitar 100 perusahaan, termasuk GE, Unilever, Delta, dan Hilton, menggunakan teknologinya. Perangkat lunak tersebut mengharuskan pelamar kerja untuk menanggapi serangkaian pertanyaan dalam rekaman video. Perangkat lunak perusahaan kemudian menganalisis berbagai karakteristik termasuk bahasa yang mereka gunakan, ucapan mereka, dan, hingga sekarang, ekspresi wajah mereka. Kemudian memberikan penilaian kesesuaian pelamar untuk suatu pekerjaan, serta ukuran sifat termasuk “ketergantungan”, “kecerdasan emosional”, dan “kemampuan kognitif.”

Parker mengatakan perusahaan membantu menyaring lebih dari 6 juta video tahun lalu, meskipun terkadang ini melibatkan hanya menyalin jawaban untuk pewawancara daripada melakukan penilaian kandidat secara otomatis. Dia menambahkan bahwa beberapa klien mengizinkan kandidat memilih keluar dari penyaringan otomatis. Dan dia mengatakan HireVue telah mengembangkan cara untuk menghindari menghukum kandidat dengan koneksi internet yang tidak stabil, secara otomatis merujuk kandidat tersebut ke manusia.

Pakar AI memperingatkan bahwa algoritme yang dilatih pada data dari pelamar pekerjaan sebelumnya dapat mengabadikan bias yang ada dalam perekrutan. Lindsey Zuloaga, kepala ilmuwan data HireVue, mengatakan perusahaan menyaring bias pada jenis kelamin, ras, dan usia dengan mengumpulkan informasi tersebut dalam data pelatihan dan mencari tanda-tanda bias.

Tetapi dia mengakui bahwa mungkin lebih sulit untuk mengetahui apakah sistem itu bias pada faktor-faktor seperti pendapatan atau tingkat pendidikan, atau apakah itu dapat dipengaruhi oleh sesuatu seperti gagap.

“Saya terkejut mereka membatalkan ini, karena itu adalah fitur kunci dari produk yang mereka pasarkan,” kata John Davisson, penasihat senior di EPIC. “Itulah sumber dari banyak kekhawatiran seputar pengumpulan data biometrik, serta klaim berani tentang kemampuan mengukur ciri psikologis, kecerdasan emosional, sikap sosial, dan hal-hal seperti itu.”

Panduan WIRED untuk Artificial Intelligence

Algoritme supersmart tidak akan mengambil semua pekerjaan, tetapi mereka belajar lebih cepat dari sebelumnya, melakukan segalanya mulai dari diagnostik medis hingga menayangkan iklan.

Penggunaan analisis wajah untuk menentukan emosi atau ciri kepribadian masih kontroversial; beberapa ahli memperingatkan bahwa ilmu yang mendasari cacat.

Lisa Feldman Barrett, seorang profesor di Universitas Northeastern yang mempelajari analisis emosi, mengatakan wajah seseorang tidak dengan sendirinya mengungkapkan emosi atau karakter. “Hanya dengan melihat seseorang yang tersenyum, Anda tidak dapat benar-benar mengetahui apa pun tentang mereka kecuali mungkin mereka memiliki gigi yang bagus,” katanya. “Merupakan ide yang buruk untuk membuat kesimpulan psikologis, dan karena itu menentukan hasil orang-orang, hanya berdasarkan data wajah.”

Diposting oleh : Lagutogel