Sisi Gelap Pendanaan Teknologi Besar untuk Riset AI

Sisi Gelap Pendanaan Teknologi Besar untuk Riset AI

[ad_1]

Minggu lalu, terkemuka Peneliti kecerdasan buatan Google Timnit Gebru mengatakan dia dipecat oleh perusahaan setelah manajer memintanya untuk mencabut atau menarik namanya dari makalah penelitian, dan dia keberatan. Google menyatakan bahwa dia mengundurkan diri, dan CEO Alphabet Sundar Pichai mengatakan dalam memo perusahaan pada hari Rabu bahwa dia akan menyelidiki apa yang terjadi.

Episode ini mengingatkan kita akan pengaruh dan kekuasaan perusahaan teknologi atas bidang mereka. AI mendukung produk yang menguntungkan seperti mesin pencari Google dan asisten virtual Amazon Alexa. Perusahaan besar mengeluarkan makalah penelitian yang berpengaruh, mendanai konferensi akademik, bersaing untuk mempekerjakan peneliti top, dan memiliki pusat data yang diperlukan untuk eksperimen AI skala besar. Sebuah studi baru-baru ini menemukan bahwa mayoritas pengajar jalur kepemilikan di empat universitas terkemuka yang mengungkapkan sumber pendanaan telah mendapat dukungan dari Big Tech.

Ben Recht, seorang profesor di University of California, Berkeley, yang telah menghabiskan waktu di Google sebagai pengajar tamu, mengatakan rekan penelitinya terkadang lupa bahwa minat perusahaan tidak hanya berasal dari kecintaan pada sains. “Riset perusahaan luar biasa, dan ada hal-hal menakjubkan yang keluar dari Bell Labs dan PARC dan Google,” katanya. “Tapi aneh rasanya berpura-pura bahwa penelitian akademis dan penelitian perusahaan adalah sama.”

Ali Alkhatib, seorang peneliti di Pusat Etika Data Terapan Universitas San Francisco, mengatakan pertanyaan yang diajukan oleh perlakuan Google terhadap risiko Gebru merusak semua penelitian perusahaan. “Rasanya sulit untuk dikutip karena mungkin ada hal-hal di balik layar, yang tidak dapat mereka bicarakan, yang akan kita pelajari nanti,” katanya.

Alkhatib, yang sebelumnya bekerja di divisi penelitian Microsoft, mengatakan ia memahami bahwa penelitian perusahaan memiliki kendala. Namun dia ingin melihat Google membuat perubahan yang terlihat untuk mendapatkan kembali kepercayaan dari para peneliti di dalam dan di luar perusahaan, mungkin dengan mengisolasi grup penelitiannya dari bagian lain Google.

Makalah yang menyebabkan keluarnya Gebru dari Google menyoroti pertanyaan etis yang diajukan oleh teknologi AI yang bekerja dengan bahasa. Kepala penelitian Google, Jeff Dean, mengatakan dalam sebuah pernyataan minggu lalu bahwa itu “tidak memenuhi standar kami untuk publikasi.”

Gebru mengatakan manajer mungkin melihat pekerjaan itu sebagai ancaman bagi kepentingan bisnis Google, atau alasan untuk mengeluarkannya karena mengkritik kurangnya keragaman dalam grup AI perusahaan. Peneliti Google lainnya telah mengatakan secara terbuka bahwa Google tampaknya telah menggunakan proses peninjauan penelitian internal untuk menghukumnya. Lebih dari 2.300 karyawan Google, termasuk banyak peneliti AI, telah menandatangani surat terbuka yang menuntut perusahaan menetapkan pedoman yang jelas tentang bagaimana penelitian akan ditangani.

Meredith Whittaker, direktur fakultas di institut AI Now Universitas New York, mengatakan apa yang terjadi pada Gebru adalah pengingat bahwa, meskipun perusahaan seperti Google mendorong peneliti untuk menganggap diri mereka sarjana independen, perusahaan memprioritaskan keuntungan di atas norma akademis. “Sangat mudah untuk dilupakan, tetapi setiap saat sebuah perusahaan dapat meningkatkan pekerjaan Anda atau membentuknya sehingga berfungsi lebih sebagai PR daripada sebagai produksi pengetahuan untuk kepentingan publik,” katanya.

Whittaker bekerja di Google selama 13 tahun tetapi pergi pada 2019, mengatakan perusahaan telah membalasnya karena mengatur pemogokan atas pelecehan seksual dan merusak pekerjaannya yang meningkatkan kekhawatiran etis tentang AI. Dia membantu mengatur protes karyawan terhadap kontrak AI dengan Pentagon yang akhirnya ditinggalkan perusahaan, meskipun telah mengambil kontrak pertahanan lainnya.

Panduan WIRED untuk Artificial Intelligence

Algoritme supersmart tidak akan mengambil semua pekerjaan, tetapi mereka belajar lebih cepat dari sebelumnya, melakukan segalanya mulai dari diagnostik medis hingga menayangkan iklan.

Pembelajaran mesin adalah dimensi akademis yang tidak jelas hingga sekitar tahun 2012, ketika Google dan perusahaan teknologi lainnya menjadi sangat tertarik pada terobosan yang membuat komputer jauh lebih baik dalam mengenali ucapan dan gambar.

Perusahaan pencarian dan periklanan, dengan cepat diikuti oleh saingannya seperti Facebook, mempekerjakan dan mengakuisisi akademisi terkemuka, dan mendesak mereka untuk terus menerbitkan makalah di sela-sela pekerjaan pada sistem perusahaan. Bahkan Apple yang secara tradisional bungkam berjanji untuk menjadi lebih terbuka dengan penelitiannya, dalam upaya untuk memikat bakat AI. Makalah dengan penulis perusahaan dan peserta dengan lencana perusahaan membanjiri konferensi yang merupakan tempat publikasi utama lapangan.

Diposting oleh : Lagutogel

Releated

Teks Yang Didukung AI Dari Program Ini Bisa Menipu Pemerintah

Teks Yang Didukung AI Dari Program Ini Bisa Menipu Pemerintah

[ad_1] Pada bulan Oktober 2019, Idaho mengusulkan untuk mengubah program Medicaidnya. Negara bagian membutuhkan persetujuan dari pemerintah federal, yang meminta umpan balik publik melalui Medicaid.gov. Sekitar 1.000 komentar tiba. Tapi setengahnya bukan dari warga yang peduli atau bahkan troll internet. Mereka dihasilkan oleh kecerdasan buatan. Dan sebuah penelitian menemukan bahwa orang tidak dapat membedakan antara […]

Algoritma Membantu Komunitas Mendeteksi Pipa Timbal

Algoritma Membantu Komunitas Mendeteksi Pipa Timbal

[ad_1] Lebih dari enam Bertahun-tahun setelah penduduk Flint, Michigan, menderita keracunan timbal yang meluas dari air minum mereka, ratusan juta dolar telah dihabiskan untuk meningkatkan kualitas air dan meningkatkan perekonomian kota. Namun warga masih melaporkan sejenis PTSD komunitas, menunggu di antrean panjang toko bahan makanan untuk membeli air kemasan dan filter. Laporan media Rabu mengatakan […]