Peneliti Etika AI Terkemuka Mengatakan Google Memecatnya


Sebelum bergabung dengan Google pada tahun 2018, Gebru bekerja dengan peneliti MIT Joy Buolamwini dalam sebuah proyek bernama Gender Shades yang mengungkapkan bahwa teknologi analisis wajah dari IBM dan Microsoft sangat akurat untuk pria kulit putih tetapi sangat tidak akurat untuk wanita kulit hitam. Ini membantu mendorong pembuat undang-undang dan ahli teknologi AS untuk mempertanyakan dan menguji keakuratan pengenalan wajah pada berbagai demografi, dan berkontribusi pada Microsoft, IBM, dan Amazon yang mengumumkan bahwa mereka akan menghentikan sementara penjualan teknologi tersebut tahun ini. Gebru juga menjadi salah satu pendiri konferensi berpengaruh yang disebut Black in AI yang mencoba meningkatkan keragaman peneliti yang berkontribusi di lapangan.

Kepergian Gebru digerakkan ketika dia berkolaborasi dengan peneliti di dalam dan di luar Google pada makalah penelitian yang membahas masalah etika yang diangkat oleh kemajuan terbaru dalam perangkat lunak bahasa AI.

Panduan WIRED untuk Kecerdasan Buatan

Algoritme supersmart tidak akan mengambil semua pekerjaan, tetapi mereka belajar lebih cepat dari sebelumnya, melakukan segalanya mulai dari diagnostik medis hingga menayangkan iklan.

Peneliti telah membuat lompatan kemajuan pada masalah seperti membuat teks dan menjawab pertanyaan dengan membuat model pembelajaran mesin raksasa yang dilatih pada sebagian besar teks online. Google mengatakan bahwa teknologi telah membuat mesin pencari eponimnya yang menguntungkan lebih kuat. Tetapi para peneliti juga telah menunjukkan bahwa membuat model yang lebih kuat ini menghabiskan banyak listrik karena sumber daya komputasi yang dibutuhkan, dan mendokumentasikan bagaimana model tersebut dapat mereplikasi bahasa bias pada jenis kelamin dan ras yang ditemukan secara online.

Gebru mengatakan bahwa draf makalahnya membahas masalah tersebut, dan mendesak penggunaan teknologi yang bertanggung jawab, misalnya dengan mendokumentasikan data yang digunakan untuk membuat model bahasa. Dia bermasalah saat manajer senior bersikeras agar dia dan penulis Google lainnya menghapus nama mereka dari kertas, atau mencabut semuanya, terutama saat dia tidak bisa mempelajari proses yang digunakan untuk meninjau draf. “Saya merasa seperti kami sedang disensor dan berpikir bahwa ini memiliki implikasi untuk semua penelitian AI yang etis,” katanya.

Gebru mengatakan dia gagal meyakinkan manajer senior untuk mengatasi masalah dengan koran; katanya manajer bersikeras agar dia menghapus namanya. Tuesday Gebru mengirim email kembali menawarkan kesepakatan: Jika dia menerima penjelasan lengkap tentang apa yang terjadi, dan tim peneliti bertemu dengan manajemen untuk menyetujui proses penanganan yang adil untuk penelitian di masa depan, dia akan menghapus namanya dari makalah. Jika tidak, dia akan mengatur untuk keluar dari perusahaan di kemudian hari, membiarkan dia bebas menerbitkan koran tanpa afiliasi perusahaan.

Gebru juga mengirim email ke daftar yang lebih luas dalam grup penelitian AI Google yang mengatakan bahwa upaya manajer untuk meningkatkan keragaman tidak efektif. Dia menyertakan deskripsi perselisihannya tentang makalah bahasa sebagai contoh bagaimana manajer Google dapat membungkam orang dari kelompok yang terpinggirkan. Platformer menerbitkan salinan email pada hari Kamis.

Rabu, Gebru mengatakan dia mengetahui dari bawahan langsungnya bahwa mereka telah diberitahu bahwa Gebru telah mengundurkan diri dari Google dan pengunduran dirinya telah diterima. Dia menemukan akun perusahaannya dinonaktifkan.

Sebuah email yang dikirim oleh seorang manajer ke alamat pribadi Gebru mengatakan pengunduran dirinya akan segera berlaku karena ia telah mengirim email yang mencerminkan “perilaku yang tidak sesuai dengan harapan seorang manajer Google.” Gebru turun ke Twitter, dan kemarahan tumbuh dengan cepat di antara para peneliti AI online.

Siluet manusia dan robot bermain kartu

Rahasia Machine Learning? Guru Manusia

Banyak yang mengkritik Google, baik dari dalam maupun luar perusahaan, mencatat bahwa perusahaan tersebut secara tiba-tiba telah merusak keragaman tenaga kerja AI-nya dan juga kehilangan pendukung terkemuka untuk meningkatkan keragaman itu. Gebru mencurigai perlakuannya sebagian dimotivasi oleh keterbukaannya tentang keberagaman dan perlakuan Google terhadap orang-orang dari kelompok yang terpinggirkan. “Kami telah meminta perwakilan, tetapi hampir tidak ada orang kulit hitam di Google Research, dan dari apa yang saya lihat tidak ada dalam kepemimpinan sama sekali,” katanya.

Diposting oleh : Lagutogel