Hacker Dulu Manusia. Segera, AI Akan Meretas Kemanusiaan


Jika tidak Anda sudah cukup khawatir, pertimbangkan dunia di mana AI adalah peretas.

Peretasan sudah setua kemanusiaan. Kami adalah pemecah masalah yang kreatif. Kami mengeksploitasi celah, memanipulasi sistem, dan mengupayakan lebih banyak pengaruh, kekuasaan, dan kekayaan. Sampai saat ini, peretasan secara eksklusif telah menjadi aktivitas manusia. Tidak lama.

Seperti yang saya paparkan dalam laporan yang baru saya terbitkan, kecerdasan buatan pada akhirnya akan menemukan kerentanan di semua jenis sistem sosial, ekonomi, dan politik, dan kemudian mengeksploitasinya dengan kecepatan, skala, dan cakupan yang belum pernah terjadi sebelumnya. Setelah meretas manusia, sistem AI kemudian akan meretas sistem AI lain, dan manusia akan menjadi lebih dari sekadar kerusakan tambahan.

Oke, mungkin ini sedikit hiperbola, tetapi tidak membutuhkan teknologi fiksi ilmiah di masa depan. Saya tidak mendalilkan “singularitas” AI, di mana putaran umpan balik pembelajaran AI menjadi begitu cepat sehingga melampaui pemahaman manusia. Saya tidak menganggap android cerdas. Saya tidak berasumsi niat jahat. Sebagian besar peretasan ini bahkan tidak memerlukan terobosan penelitian besar dalam AI. Itu sudah terjadi. Namun, seiring AI semakin canggih, kita seringkali bahkan tidak tahu itu terjadi.

AI tidak menyelesaikan masalah seperti yang dilakukan manusia. Mereka melihat lebih banyak jenis solusi daripada kami. Mereka akan menempuh jalur kompleks yang belum kita pertimbangkan. Ini bisa menjadi masalah karena sesuatu yang disebut masalah yang dapat dijelaskan. Sistem AI modern pada dasarnya adalah kotak hitam. Data masuk di satu ujung, dan jawaban keluar di ujung lain. Tidak mungkin untuk memahami bagaimana sistem mencapai kesimpulannya, bahkan jika Anda seorang programmer yang melihat kodenya.

Pada 2015, sebuah kelompok penelitian memberi makan sistem AI yang disebut data kesehatan dan medis Pasien Dalam dari sekitar 700.000 orang, dan menguji apakah itu dapat memprediksi penyakit. Bisa, tetapi Deep Patient tidak memberikan penjelasan untuk dasar diagnosis, dan para peneliti tidak tahu bagaimana kesimpulannya. Seorang dokter bisa mempercayai atau mengabaikan komputer, tetapi kepercayaan itu akan tetap buta.

Sementara para peneliti sedang mengerjakan AI yang dapat menjelaskan dirinya sendiri, tampaknya ada pertukaran antara kemampuan dan penjelasan. Penjelasan adalah singkatan kognitif yang digunakan oleh manusia, cocok untuk cara manusia membuat keputusan. Memaksa AI untuk memberikan penjelasan mungkin menjadi kendala tambahan yang dapat memengaruhi kualitas keputusannya. Untuk saat ini, AI menjadi semakin buram dan kurang dapat dijelaskan.

Secara terpisah, AI dapat terlibat dalam sesuatu yang disebut peretasan hadiah. Karena AI tidak menyelesaikan masalah dengan cara yang sama seperti manusia, mereka akan selalu tersandung pada solusi yang mungkin tidak pernah kita antisipasi sebelumnya — dan beberapa akan menumbangkan tujuan sistem. Itu karena AI tidak memikirkan implikasi, konteks, norma, dan nilai yang kita miliki dan terima begitu saja. Peretasan hadiah ini melibatkan pencapaian tujuan tetapi dengan cara yang tidak diinginkan atau diinginkan oleh para perancang AI.

Ambil simulasi sepak bola di mana AI mengetahui bahwa jika ia menendang bola keluar batas, kiper harus melempar bola ke dalam dan membiarkan gawang tidak dipertahankan. Atau simulasi lain, di mana AI menemukan bahwa alih-alih berlari, ia bisa membuat dirinya cukup tinggi untuk melewati garis finis yang jauh dengan jatuh di atasnya. Atau robot penyedot debu yang alih-alih belajar untuk tidak menabrak benda, ia belajar mengemudi mundur, di mana tidak ada sensor yang memberi tahu ia menabrak benda. Jika ada masalah, ketidakkonsistenan, atau celah dalam aturan, dan jika properti tersebut mengarah ke solusi yang dapat diterima seperti yang ditentukan oleh aturan, AI akan menemukan peretasan ini.

Kami belajar tentang masalah peretasan ini sebagai anak-anak dengan kisah Raja Midas. Ketika dewa Dionysus mengabulkan permintaannya, Midas meminta agar semua yang disentuhnya berubah menjadi emas. Dia akhirnya kelaparan dan sengsara ketika makanan, minuman, dan putrinya semuanya berubah menjadi emas. Ini masalah spesifikasi: Midas memprogram tujuan yang salah ke dalam sistem.

Jin sangat tepat dalam mengutarakan kata-kata keinginan, dan bisa menjadi tipu muslihat yang jahat. Kami tahu ini, tapi masih belum ada cara untuk mengakali jin. Apa pun yang Anda inginkan, dia akan selalu dapat mengabulkannya dengan cara yang Anda inginkan. Dia akan meretas keinginan Anda. Tujuan dan keinginan selalu diremehkan dalam bahasa dan pemikiran manusia. Kami tidak pernah menjelaskan semua opsi, atau menyertakan semua peringatan, pengecualian, dan ketentuan yang berlaku. Tujuan apa pun yang kami tentukan tidak akan lengkap.

Diposting oleh : Toto HK