Di Balik Makalah yang Menghasilkan Pemecatan Peneliti Google

Di Balik Makalah yang Menghasilkan Pemecatan Peneliti Google

[ad_1]

Awal tahun ini, Peneliti kecerdasan buatan Google Timnit Gebru mengirim pesan Twitter kepada profesor Emily Bender dari University of Washington. Gebru bertanya kepada Bender apakah dia telah menulis tentang pertanyaan etis yang diangkat oleh kemajuan terbaru dalam AI yang memproses teks. Bender tidak melakukannya, tetapi pasangan itu terlibat dalam percakapan tentang keterbatasan teknologi tersebut, seperti bukti yang dapat mereplikasi bahasa bias yang ditemukan secara online.

Bender merasa diskusi DM meriah dan menyarankan untuk membuatnya menjadi makalah akademis. “Saya berharap bisa memancing giliran berikutnya dalam percakapan,” kata Bender. “Kita telah melihat semua kegembiraan dan kesuksesan ini, mari kita mundur sejenak dan lihat apa saja kemungkinan risikonya dan apa yang dapat kita lakukan.” Draf tersebut ditulis dalam sebulan dengan lima rekan penulis tambahan dari Google dan akademisi dan diserahkan pada bulan Oktober ke konferensi akademik. Ini akan segera menjadi salah satu karya penelitian paling terkenal di AI.

Minggu lalu, Gebru mengatakan dia dipecat oleh Google setelah keberatan dengan permintaan manajer untuk mencabut atau menghapus namanya dari surat kabar. Kepala AI Google mengatakan pekerjaan itu “tidak memenuhi standar kami untuk publikasi.” Sejak itu, lebih dari 2.200 karyawan Google telah menandatangani surat yang menuntut transparansi lebih dalam menangani draf tersebut oleh perusahaan. Sabtu, manajer Gebru, peneliti Google AI Samy Bengio, menulis di Facebook bahwa dia “terpana”, menyatakan “Aku mendukungmu, Timnit.” Peneliti AI di luar Google secara terbuka mengecam perlakuan perusahaan terhadap Gebru.

Kehebohan itu memberi kertas yang mengkatalis kepergian Gebru yang tiba-tiba itu aura kekuatan yang tidak biasa. Itu beredar di lingkaran AI seperti samizdat. Tetapi hal yang paling luar biasa tentang dokumen 12 halaman itu, dilihat oleh WIRED, adalah betapa tidak kontroversialnya dokumen itu. Makalah tersebut tidak menyerang Google atau teknologinya dan tampaknya tidak mungkin merusak reputasi perusahaan jika Gebru diizinkan untuk menerbitkannya dengan afiliasi Google-nya.

Makalah ini mensurvei penelitian sebelumnya tentang batasan sistem AI yang menganalisis dan menghasilkan bahasa. Itu tidak menyajikan eksperimen baru. Para penulis mengutip penelitian sebelumnya yang menunjukkan bahwa bahasa AI dapat menghabiskan banyak listrik, dan menggemakan bias tidak menyenangkan yang ditemukan dalam teks online. Dan mereka menyarankan cara peneliti AI dapat lebih berhati-hati dengan teknologi, termasuk dengan mendokumentasikan data yang digunakan untuk membuat sistem semacam itu dengan lebih baik.

Kontribusi Google di bidang ini — beberapa sekarang digunakan di mesin pencari — direferensikan tetapi tidak dikhususkan untuk kritik khusus. Salah satu studi yang dikutip menunjukkan bukti bias dalam bahasa AI, diterbitkan oleh peneliti Google awal tahun ini.

“Artikel ini adalah karya yang sangat solid dan diteliti dengan baik,” kata Julien Cornebise, seorang profesor kehormatan di University College London yang telah melihat draf makalah. “Sulit untuk melihat apa yang dapat memicu keributan di lab mana pun, apalagi menyebabkan seseorang kehilangan pekerjaan karena hal itu.”

Reaksi Google mungkin merupakan bukti bahwa para pemimpin perusahaan merasa lebih rentan terhadap kritik etis daripada yang disadari Gebru dan lainnya — atau bahwa kepergiannya lebih dari sekadar surat kabar. Perusahaan tidak menanggapi permintaan komentar. Dalam posting blog Senin, anggota tim peneliti etika AI Google menyarankan manajer telah mengubah proses tinjauan penelitian internal Google terhadap Gebru. Gebru mengatakan minggu lalu bahwa dia mungkin telah dikeluarkan karena mengkritik program keberagaman Google, dan menyarankan dalam email grup baru-baru ini bahwa rekan kerja berhenti berpartisipasi di dalamnya.

Panduan WIRED untuk Artificial Intelligence

Algoritme supersmart tidak akan mengambil semua pekerjaan, tetapi mereka belajar lebih cepat dari sebelumnya, melakukan segalanya mulai dari diagnostik medis hingga menayangkan iklan.

Draf makalah yang menggerakkan kontroversi ini berjudul “Tentang Bahaya Stochastic Parrots: Dapatkah Model Bahasa Menjadi Terlalu Besar?” (Ini termasuk emoji burung beo setelah tanda tanya.) Ini mengalihkan pandangan kritis pada salah satu untaian penelitian AI yang paling hidup.

Perusahaan teknologi seperti Google telah banyak berinvestasi dalam AI sejak awal 2010-an, ketika para peneliti menemukan bahwa mereka dapat membuat pengenalan suara dan gambar jauh lebih akurat menggunakan teknik yang disebut pembelajaran mesin. Algoritme ini dapat menyempurnakan performanya pada suatu tugas, misalnya mentranskripsikan ucapan, dengan mencerna data contoh yang dianotasi dengan label. Pendekatan yang disebut pembelajaran mendalam memungkinkan hasil baru yang menakjubkan dengan menggabungkan algoritme pembelajaran dengan kumpulan data contoh yang jauh lebih besar, dan komputer yang lebih canggih.

Diposting oleh : Lagutogel

Releated

Teks Yang Didukung AI Dari Program Ini Bisa Menipu Pemerintah

Teks Yang Didukung AI Dari Program Ini Bisa Menipu Pemerintah

[ad_1] Pada bulan Oktober 2019, Idaho mengusulkan untuk mengubah program Medicaidnya. Negara bagian membutuhkan persetujuan dari pemerintah federal, yang meminta umpan balik publik melalui Medicaid.gov. Sekitar 1.000 komentar tiba. Tapi setengahnya bukan dari warga yang peduli atau bahkan troll internet. Mereka dihasilkan oleh kecerdasan buatan. Dan sebuah penelitian menemukan bahwa orang tidak dapat membedakan antara […]

Algoritma Membantu Komunitas Mendeteksi Pipa Timbal

Algoritma Membantu Komunitas Mendeteksi Pipa Timbal

[ad_1] Lebih dari enam Bertahun-tahun setelah penduduk Flint, Michigan, menderita keracunan timbal yang meluas dari air minum mereka, ratusan juta dolar telah dihabiskan untuk meningkatkan kualitas air dan meningkatkan perekonomian kota. Namun warga masih melaporkan sejenis PTSD komunitas, menunggu di antrean panjang toko bahan makanan untuk membeli air kemasan dan filter. Laporan media Rabu mengatakan […]