Mantan Kepala DOD: AS Membutuhkan Rencana Baru untuk Mengalahkan China dalam AI


Pada hari Rabu, saya mengadakan diskusi dengan mantan sekretaris pertahanan Ashton Carter, yang sekarang menjadi direktur Belfer Center for Science and International Affairs di Harvard Kennedy School. Percakapan itu adalah bagian dari program CES WIRED, yang membahas tren terbesar yang akan membentuk 2021, dari kedokteran hingga mengemudi otonom hingga pertahanan. Kami menjawab pertanyaan dari penonton secara real time. Percakapan telah diedit sedikit untuk kejelasan.


Nicholas Thompson: Anda telah memiliki karir 35 tahun yang luar biasa di pemerintah AS dan di sektor swasta, bekerja untuk Partai Republik dan Demokrat, selalu berusaha untuk mengidentifikasi apa masalah terpenting di zaman kita ini, solusi paling cerdas untuk itu, dan cara yang paling adil untuk memikirkannya.

Ketika Anda menjadi menteri pertahanan, Anda memiliki kebijakan yang sangat rasional bahwa dalam setiap keputusan membunuh, seorang manusia harus dilibatkan. Jadi jika ada senjata kecerdasan buatan, tidak bisa membuat keputusan untuk menembak dari drone. Dan pertanyaan yang saya pertanyakan adalah apakah pembenaran itu tetap sama untuk senjata pertahanan. Anda dapat membayangkan sistem pertahanan rudal masa depan yang dapat lebih akurat daripada mengidentifikasi manusia bahwa ada rudal yang masuk, lebih akurat daripada manusia yang mengarahkan respons, dan lebih cepat daripada manusia membuat keputusan. Apakah kita perlu melibatkan manusia dalam situasi defensif serta situasi ofensif?

Ash Carter: Nah, pertahanan lebih mudah dalam arti moral daripada menyerang. Tidak ada pertanyaan tentang itu. Ngomong-ngomong, Nick, Anda menggunakan frasa “orang dalam lingkaran”. Saya tidak berpikir itu benar-benar praktis. Secara harfiah tidak mungkin, dan belum cukup lama, untuk melibatkan manusia dalam lingkaran keputusan. Alih-alih, yang Anda bicarakan, atau yang kami berdua bicarakan, adalah bagaimana Anda memastikan bahwa ada penilaian moral yang terlibat dalam penggunaan AI? Atau, dengan kata lain, jika terjadi kesalahan, apa alasan Anda? Anda berdiri di hadapan hakim, Anda berdiri di hadapan para pemegang saham, Anda berdiri di depan pers, dan bagaimana Anda menjelaskan bahwa sesuatu yang salah bukanlah kejahatan atau dosa? Jadi mari kita sangat praktis tentang itu.

Jika Anda menjual iklan, tentu saja, itu tidak terlalu penting. Oke, saya memasang iklan kepada seseorang yang tidak membeli apa pun — kesalahan tipe satu. Atau saya gagal memasang iklan kepada seseorang yang mungkin telah membeli sesuatu — kesalahan tipe dua. Bukan masalah besar. Tetapi jika menyangkut keamanan nasional, penggunaan kekuatan atau penegakan hukum, atau pemberian perawatan medis, ini terlalu berat untuk itu.

Sekarang, dalam pertahanan, serangan adalah tanggung jawab yang paling suram, dan pertahanan tidak begitu. Misalnya, komando dan kendali nuklir sangat banyak diisi oleh manusia, dimulai dengan presiden Amerika Serikat. Saya, sebagai menteri pertahanan, tidak memiliki otoritas, dan orang-orang di bawah saya tidak memiliki otoritas. Dan sejauh mungkin, kami tidak dapat meluncurkan senjata nuklir. Kami membutuhkan kode dari presiden. Saya membawa kode sendiri yang akan mengotentikasi saya, karena itulah tindakan paling berat dari semuanya.

Kasus yang lebih sederhana adalah meluncurkan rudal pencegat ke rudal yang masuk. Sekarang, jika itu tidak beres atau Anda melakukannya karena kesalahan, sebuah misil melayang di udara dan meledak dan Anda membuang-buang uang, dan itu memalukan, tetapi tidak ada korban jiwa. Keputusan itu dilimpahkan presiden kepada saya, dan saya secara bergiliran mendelegasikannya kepada komandan Komando Utara Amerika Serikat, Jenderal Lori Robinson. Dan tidak mengapa itu turun ke eselon yang lebih rendah, karena itu tindakan yang tidak terlalu serius. Di antaranya adalah kewenangan untuk menembak jatuh sebuah pesawat, yang juga sangat berat, tetapi presiden memang mendelegasikannya kepada Menteri Pertahanan, jadi itu semacam perantara, dan saya memikulnya di bahu saya setiap hari. Dan Anda akan terkejut betapa seringnya hal itu terjadi, di mana pesawat melenceng dari jalur, radio tidak berfungsi, sedang menuju Capitol AS, dan itu situasi yang tidak menguntungkan. Jadi itu tergantung.

Diposting oleh : SGP Prize