Orang Amerika Membutuhkan Bill of Rights untuk Dunia yang Didukung AI


Di masa lalu dekade, teknologi berbasis data telah mengubah dunia di sekitar kita. Kami telah melihat apa yang mungkin dengan mengumpulkan data dalam jumlah besar dan melatih kecerdasan buatan untuk menafsirkannya: komputer yang belajar menerjemahkan bahasa, sistem pengenalan wajah yang membuka kunci ponsel cerdas kami, algoritme yang mengidentifikasi kanker pada pasien. Kemungkinannya tidak terbatas.

Tetapi alat-alat baru ini juga menyebabkan masalah serius. Apa yang dipelajari mesin bergantung pada banyak hal—termasuk data yang digunakan untuk melatihnya.

Kumpulan data yang gagal mewakili masyarakat Amerika dapat mengakibatkan asisten virtual yang tidak memahami aksen Selatan; teknologi pengenalan wajah yang mengarah pada penangkapan yang salah dan diskriminatif; dan algoritma perawatan kesehatan yang mengabaikan keparahan penyakit ginjal di Afrika-Amerika, mencegah orang mendapatkan transplantasi ginjal.

Mesin pelatihan berdasarkan contoh sebelumnya dapat menanamkan prasangka masa lalu dan memungkinkan diskriminasi masa kini. Alat perekrutan yang mempelajari fitur karyawan perusahaan dapat menolak pelamar yang berbeda dari staf yang ada meskipun memiliki kualifikasi yang baik—misalnya, pemrogram komputer wanita. Algoritme persetujuan hipotek untuk menentukan kelayakan kredit dapat dengan mudah menyimpulkan bahwa kode pos rumah tertentu berkorelasi dengan ras dan kemiskinan, memperpanjang diskriminasi perumahan selama beberapa dekade ke era digital. AI dapat merekomendasikan dukungan medis untuk kelompok yang paling sering mengakses layanan rumah sakit, daripada mereka yang paling membutuhkannya. Melatih AI tanpa pandang bulu dalam percakapan internet dapat menghasilkan “analisis sentimen” yang memandang kata-kata “Hitam”, “Yahudi”, dan “gay” sebagai negatif.

Teknologi ini juga menimbulkan pertanyaan tentang privasi dan transparansi. Ketika kita meminta speaker pintar kita untuk memutar lagu, apakah itu merekam apa yang dikatakan anak-anak kita? Ketika seorang siswa mengikuti ujian online, haruskah webcam mereka memantau dan melacak setiap gerakan mereka? Apakah kita berhak untuk mengetahui mengapa kita ditolak pinjaman rumah atau wawancara kerja?

Selain itu, ada masalah AI yang sengaja disalahgunakan. Beberapa otokrasi menggunakannya sebagai alat penindasan, perpecahan, dan diskriminasi yang disponsori negara.

Di Amerika Serikat, beberapa kegagalan AI mungkin tidak disengaja, tetapi mereka serius dan secara tidak proporsional mempengaruhi individu dan komunitas yang sudah terpinggirkan. Mereka sering diakibatkan oleh pengembang AI yang tidak menggunakan kumpulan data yang sesuai dan tidak mengaudit sistem secara komprehensif, serta tidak memiliki perspektif yang beragam untuk mengantisipasi dan memperbaiki masalah. sebelum produk digunakan (atau untuk membunuh produk yang tidak dapat diperbaiki).

Di pasar yang kompetitif, mungkin tampak lebih mudah untuk mengambil jalan pintas. Tetapi tidak dapat diterima untuk membuat sistem AI yang akan merugikan banyak orang, sama seperti tidak dapat diterima untuk membuat obat-obatan dan produk lain—baik mobil, mainan anak-anak, atau peralatan medis—yang akan merugikan banyak orang.

Orang Amerika memiliki hak untuk mengharapkan yang lebih baik. Teknologi yang kuat harus diperlukan untuk menghormati nilai-nilai demokrasi kita dan mematuhi prinsip utama bahwa setiap orang harus diperlakukan secara adil. Mengkodifikasi ide-ide ini dapat membantu memastikan hal itu.

Segera setelah meratifikasi Konstitusi kami, orang Amerika mengadopsi Bill of Rights untuk menjaga dari pemerintah kuat yang baru saja kami ciptakan—menyebutkan jaminan seperti kebebasan berekspresi dan berkumpul, hak untuk proses hukum dan pengadilan yang adil, dan perlindungan terhadap penggeledahan dan penyitaan yang tidak masuk akal. Sepanjang sejarah kita, kita harus menafsirkan ulang, menegaskan kembali, dan secara berkala memperluas hak-hak ini. Di abad ke-21, kita membutuhkan “bill of rights” untuk menjaga dari teknologi canggih yang telah kita ciptakan.

Negara kita harus mengklarifikasi hak dan kebebasan yang kita harapkan untuk dihormati oleh teknologi berbasis data. Apa sebenarnya itu akan membutuhkan diskusi, tetapi berikut adalah beberapa kemungkinan: hak Anda untuk mengetahui kapan dan bagaimana AI memengaruhi keputusan yang memengaruhi hak-hak sipil dan kebebasan sipil Anda; kebebasan Anda untuk tidak tunduk pada AI yang belum diaudit dengan cermat untuk memastikan keakuratannya, tidak memihak, dan telah dilatih pada kumpulan data yang cukup representatif; kebebasan Anda dari pengawasan dan pemantauan yang meluas atau diskriminatif di rumah, komunitas, dan tempat kerja Anda; dan hak Anda untuk mendapatkan bantuan yang berarti jika penggunaan algoritme merugikan Anda.

Tentu saja, pencacahan hak hanyalah langkah awal. Apa yang bisa kita lakukan untuk melindungi mereka? Kemungkinan termasuk penolakan pemerintah federal untuk membeli perangkat lunak atau produk teknologi yang gagal untuk menghormati hak-hak ini, mengharuskan kontraktor federal untuk menggunakan teknologi yang mematuhi “bill of rights,” atau mengadopsi undang-undang dan peraturan baru untuk mengisi kesenjangan. Negara mungkin memilih untuk mengadopsi praktik serupa.

Diposting oleh : Toto HK