Proposal Stanford Tentang ‘Yayasan’ AI Memicu Perdebatan


Bulan lalu, Stanford peneliti menyatakan bahwa era baru kecerdasan buatan telah tiba, yang dibangun di atas jaringan saraf kolosal dan lautan data. Mereka mengatakan pusat penelitian baru di Stanford akan membangun—dan mempelajari—”model dasar” AI ini.

Kritik terhadap gagasan tersebut muncul dengan cepat—termasuk di lokakarya yang diselenggarakan untuk menandai peluncuran pusat baru tersebut. Beberapa keberatan dengan kemampuan terbatas dan terkadang perilaku aneh dari model ini; yang lain memperingatkan untuk terlalu fokus pada satu cara untuk membuat mesin lebih pintar.

“Saya pikir istilah ‘yayasan’ sangat salah,” Jitendra Malik, seorang profesor di UC Berkeley yang mempelajari AI, mengatakan kepada peserta lokakarya dalam sebuah diskusi video.

Malik mengakui bahwa satu jenis model yang diidentifikasi oleh para peneliti Stanford—model bahasa besar yang dapat menjawab pertanyaan atau menghasilkan teks dari prompt—memiliki kegunaan praktis yang besar. Tapi dia mengatakan biologi evolusioner menunjukkan bahwa bahasa dibangun di atas aspek kecerdasan lain seperti interaksi dengan dunia fisik.

“Model-model ini benar-benar istana di udara; mereka tidak punya dasar apapun,” kata Malik. “Bahasa yang kami miliki dalam model ini tidak berdasar, ada kepalsuan ini, tidak ada pemahaman yang nyata.” Dia menolak permintaan wawancara.

Sebuah makalah penelitian yang ditulis bersama oleh lusinan peneliti Stanford menggambarkan “paradigma yang muncul untuk membangun sistem kecerdasan buatan” yang diberi label “model dasar.” Model AI yang semakin besar telah menghasilkan beberapa kemajuan mengesankan dalam AI dalam beberapa tahun terakhir, di berbagai bidang seperti persepsi dan robotika serta bahasa.

Model bahasa yang besar juga merupakan dasar bagi perusahaan teknologi besar seperti Google dan Facebook, yang menggunakannya di berbagai bidang seperti pencarian, periklanan, dan moderasi konten. Membangun dan melatih model bahasa yang besar dapat membutuhkan daya komputasi awan bernilai jutaan dolar; sejauh ini, itu membatasi pengembangan dan penggunaannya hanya untuk segelintir perusahaan teknologi kaya.

Tapi model besar juga bermasalah. Model bahasa mewarisi bias dan teks ofensif dari data yang mereka latih, dan mereka tidak memiliki pemahaman tentang akal sehat atau apa yang benar atau salah. Diberi prompt, model bahasa yang besar mungkin mengeluarkan bahasa yang tidak menyenangkan atau informasi yang salah. Juga tidak ada jaminan bahwa model besar ini akan terus menghasilkan kemajuan dalam kecerdasan mesin.

Proposal Stanford telah membagi komunitas penelitian. “Menyebut mereka ‘model yayasan’ benar-benar mengacaukan wacana,” kata Subbarao Kambhampati, seorang profesor di Arizona State University. Tidak ada jalan yang jelas dari model ini ke bentuk AI yang lebih umum, kata Kambhampati.

Thomas Dietterich, seorang profesor di Oregon State University dan mantan presiden Asosiasi untuk Kemajuan Kecerdasan Buatan, mengatakan bahwa dia “sangat menghormati” para peneliti di belakang pusat Stanford yang baru, dan dia yakin mereka benar-benar prihatin dengan masalah model ini. menaikkan.

Tapi Dietterich bertanya-tanya apakah ide model dasar bukan sebagian tentang mendapatkan dana untuk sumber daya yang dibutuhkan untuk membangun dan mengerjakannya. “Saya terkejut bahwa mereka memberi model ini nama yang mewah dan menciptakan sebuah pusat,” katanya. “Itu seperti penanaman bendera, yang bisa memiliki beberapa manfaat di sisi penggalangan dana.”

Stanford juga telah mengusulkan pembuatan Cloud AI Nasional untuk membuat sumber daya komputasi skala industri tersedia bagi akademisi yang mengerjakan proyek penelitian AI.

Emily M. Bender, seorang profesor di departemen linguistik di University of Washington, mengatakan dia khawatir bahwa ide model dasar mencerminkan bias terhadap investasi dalam pendekatan data-sentris untuk AI yang disukai oleh industri.

Bender mengatakan sangat penting untuk mempelajari risiko yang ditimbulkan oleh model AI besar. Dia ikut menulis makalah, yang diterbitkan pada bulan Maret, yang menarik perhatian pada masalah dengan model bahasa yang besar dan berkontribusi pada kepergian dua peneliti Google. Tapi dia mengatakan pengawasan harus datang dari berbagai disiplin ilmu.

“Ada semua bidang lain yang berdekatan dan sangat penting ini yang kekurangan dana,” katanya. “Sebelum kita membuang uang ke cloud, saya ingin melihat uang masuk ke disiplin ilmu lain.”

Diposting oleh : Lagutogel