Apakah Robot Menjadi Bos bagi Saya?


permintaan dukungan:

Saya terganggu oleh fakta bahwa lembaga penegak hukum semakin banyak menggunakan robot untuk menetralkan ancaman, pengawasan, dan situasi penyanderaan. Mungkin saya baru saja melihat RoboCop terlalu sering, tetapi saya waspada terhadap mesin yang membuat keputusan penting, hidup atau mati — terutama mengingat seberapa sering petugas manusia yang sebenarnya menyalahgunakan otoritas mereka. Apakah saya memiliki kewajiban moral untuk mematuhi robot polisi?

-TERSANGKA

Tersangka yang terhormat—

Hollywood tidak terlalu optimis tentang robot dalam posisi otoritas. RoboCop hanyalah salah satu contoh dari kanon sci-fi yang lebih luas yang telah membakar pikiran kita konsekuensi tragis dari melepaskan tugas penting ke mesin yang tidak fleksibel — robot yang perintah utamanya dihormati dengan literalisme yang dapat mematikan, yang dapat meledakkan seseorang sampai mati tetapi dikacaukan oleh tangga. Pesan dari film-film ini jelas: Otomat yang kaku tidak mampu memberikan solusi yang diimprovisasi dan nuansa moral yang begitu sering dibutuhkan di saat-saat krisis.

Mungkin stereotip inilah yang membuat Boston Dynamics, beberapa di antaranya robot yang dimasukkan ke dalam departemen kepolisian, merilis video Desember lalu tentang modelnya yang menari mengikuti hit tahun 1950-an Contours “Do You Love Me.” Mungkin Anda melihatnya? Robot tersebut termasuk Atlas, android yang menyerupai polisi badai yang didekonstruksi, dan Spot, yang menjadi inspirasi bagi para dogbots pembunuh dalam episode “Metalhead” dari Kaca hitam. Tidak ada mesin yang tampaknya dirancang untuk memadamkan ketakutan tentang pengambilalihan robot, jadi cara apa yang lebih baik untuk membuat mereka disayangi publik selain menunjukkan kelincahan mereka? Dan tes apa yang lebih baik dari kelincahan tersebut selain keterampilan yang dianggap begitu unik manusia sehingga kami menemukan gerakan yang dirancang untuk mengejek ketidakmampuan robot untuk melakukannya (Robot)? Menyaksikan mesin bergetar, bergoyang, dan berputar, sulit untuk menghindari melihat mereka sebagai makhluk yang berwujud dan bersemangat, yang mampu memiliki fleksibilitas dan kepekaan yang sama seperti diri kita sendiri.

Tidak peduli bahwa sendi Spot dapat memotong jari Anda atau robot polisi telah digunakan untuk melakukan kekuatan mematikan. Salah satu cara untuk menjawab pertanyaan Anda, Tersangka, tanpa pertimbangan filosofi moral, mungkin dalam istilah konsekuensi pragmatis. Jika Anda memiliki rencana, seperti kebanyakan dari kita, untuk tetap hidup dan sehat, maka ya, Anda harus benar-benar mematuhi robot polisi.

Tapi saya rasa pertanyaan Anda tidak hanya praktis. Dan saya setuju bahwa penting untuk mempertimbangkan trade-off yang terlibat dalam menyerahkan tugas kepolisian ke mesin. Video Boston Dynamics, secara kebetulan, diposting di akhir tahun 2020 sebagai cara “untuk merayakan awal dari apa yang kami harap akan menjadi tahun yang lebih bahagia.” Satu minggu kemudian, pemberontak menyerbu Capitol, dan gambar-gambar petugas polisi yang menunjukkan sedikit perlawanan terhadap massa berkembang biak — foto-foto yang secara mencolok disandingkan, di media sosial, menentang tanggapan yang lebih keras terhadap protes Black Lives Matter musim panas lalu.

Pada saat banyak departemen kepolisian menghadapi krisis otoritas karena kekerasan rasial, argumen paling kuat untuk pemolisian robot adalah bahwa mesin tidak memiliki kapasitas intrinsik untuk prasangka. Bagi robot, seseorang adalah manusia, apa pun warna kulit, jenis kelamin, atau penyebabnya. Seperti yang dicatat Gedung Putih dalam laporan 2016 tentang algoritme dan hak-hak sipil, teknologi baru memiliki potensi untuk “membantu penegak hukum membuat keputusan berdasarkan faktor dan variabel yang secara empiris berkorelasi dengan risiko, bukan pada naluri dan prasangka manusia yang cacat.”

Tentu saja, jika teknologi kepolisian saat ini adalah bukti, masalahnya tidak sesederhana itu. Algoritme kepolisian prediktif, yang digunakan untuk mengidentifikasi orang dan lingkungan berisiko tinggi, sangat rentan terhadap bias, yang oleh ahli robotik Ayanna Howards disebut sebagai “dosa asal AI”. Karena sistem ini mengandalkan data historis (kasus pengadilan masa lalu, penangkapan sebelumnya), sistem ini akhirnya memilih komunitas yang sama yang telah menjadi sasaran secara tidak adil sejak awal dan memperkuat rasisme struktural. Prediksi otomatis dapat menjadi terpenuhi dengan sendirinya, mengunci kuadran tertentu menjadi pola overpolicing. (Petugas yang tiba di lokasi yang telah ditandai siap untuk melakukan kejahatan siap untuk menemukannya.) Alat-alat ini, dengan kata lain, tidak begitu banyak menetralkan prasangka sebagai memformalkannya, memanggang ketidakadilan sosial yang ada ke dalam sistem yang secara tidak sadar dan mekanis mengabadikannya. mereka. Seperti yang dicatat oleh profesor etika digital Kevin Macnish, nilai-nilai pembuat algoritme “dibekukan ke dalam kode, secara efektif melembagakan nilai-nilai itu. ”

Diposting oleh : Toto HK