Teks Yang Didukung AI Dari Program Ini Bisa Menipu Pemerintah


Pada bulan Oktober 2019, Idaho mengusulkan untuk mengubah program Medicaidnya. Negara bagian membutuhkan persetujuan dari pemerintah federal, yang meminta umpan balik publik melalui Medicaid.gov.

Sekitar 1.000 komentar tiba. Tapi setengahnya bukan dari warga yang peduli atau bahkan troll internet. Mereka dihasilkan oleh kecerdasan buatan. Dan sebuah penelitian menemukan bahwa orang tidak dapat membedakan antara komentar asli dan palsu.

Proyek tersebut adalah karya Max Weiss, seorang mahasiswa kedokteran yang paham teknologi di Harvard, tetapi hanya mendapat sedikit perhatian pada saat itu. Sekarang, dengan sistem bahasa AI yang berkembang pesat, beberapa orang mengatakan bahwa pemerintah, dan perusahaan internet, perlu memikirkan kembali bagaimana mereka meminta dan menyaring umpan balik untuk mencegah manipulasi teks deepfake dan gangguan bertenaga AI lainnya.

“Kemudahan bot dalam menghasilkan dan mengirimkan teks relevan yang meniru ucapan manusia di situs web pemerintah sungguh mengejutkan dan sangat penting untuk diketahui,” kata Latanya Sweeney, profesor di Harvard’s Kennedy School yang menasihati Weiss tentang cara menjalankan eksperimen secara etis.

Sweeney mengatakan masalahnya melampaui layanan pemerintah, tetapi sangat penting bagi badan publik untuk menemukan solusi. “AI dapat menenggelamkan ucapan dari manusia nyata,” katanya. “Situs web pemerintah harus berubah.”

Pusat Layanan Medicare dan Medicaid mengatakan telah menambahkan pengamanan baru ke sistem komentar publik sebagai tanggapan terhadap studi Weiss, meskipun menolak untuk membahas secara spesifik. Weiss mengatakan dia dihubungi oleh Administrasi Layanan Umum AS, yang mengembangkan versi baru situs web pemerintah federal untuk menerbitkan peraturan dan komentar, tentang cara untuk melindunginya dengan lebih baik dari komentar palsu.

Sistem pemerintah telah menjadi target kampanye pengaruh otomatis sebelumnya. Pada tahun 2017, para peneliti menemukan bahwa lebih dari satu juta komentar yang dikirimkan ke Komisi Komunikasi Federal mengenai rencana untuk membatalkan aturan netralitas jaringan telah dibuat secara otomatis, dengan frasa tertentu disalin dan ditempelkan ke dalam pesan yang berbeda.

Proyek Weiss menyoroti ancaman yang lebih serius. Ada kemajuan luar biasa dalam menerapkan AI ke bahasa selama beberapa tahun terakhir. Saat algoritme pembelajaran mesin yang kuat mendapatkan data pelatihan dalam jumlah besar — ​​dalam bentuk buku dan teks yang diambil dari web — algoritme tersebut dapat menghasilkan program yang mampu menghasilkan teks yang meyakinkan. Selain berbagai aplikasi yang berguna, hal ini meningkatkan prospek bahwa semua jenis pesan internet, komentar, dan kiriman dapat dipalsukan dengan mudah dan kurang terdeteksi.

“Saat teknologi semakin baik,” kata Sweeney, “tempat percakapan manusia menjadi subjek manipulasi tanpa sepengetahuan manusia bahwa hal itu telah terjadi.” Weiss bekerja di organisasi advokasi konsumen perawatan kesehatan pada musim panas 2019 ketika dia mengetahui tentang proses umpan balik publik yang diperlukan untuk membuat perubahan Medicaid. Mengetahui bahwa komentar publik ini telah mempengaruhi upaya sebelumnya untuk mengubah program Medicaid status, Weiss mencari alat yang dapat menghasilkan komentar secara otomatis.

“Saya sedikit terkejut ketika saya melihat tidak lebih dari tombol kirim yang menghalangi komentar Anda menjadi bagian dari catatan publik,” katanya.

Panduan WIRED untuk Artificial Intelligence

Algoritme supersmart tidak akan mengambil semua pekerjaan, tetapi mereka belajar lebih cepat dari sebelumnya, melakukan segalanya mulai dari diagnostik medis hingga menayangkan iklan.

Weiss menemukan GPT-2, sebuah program yang dirilis awal tahun itu oleh OpenAI, sebuah perusahaan AI di San Francisco, dan menyadari bahwa dia dapat menghasilkan komentar palsu untuk mensimulasikan gelombang opini publik. “Saya juga terkejut melihat betapa mudahnya menyempurnakan GPT-2 agar benar-benar mengeluarkan komentar,” kata Weiss. “Ini relatif mengkhawatirkan di sejumlah bidang.”

Selain alat penghasil komentar, Weiss membuat perangkat lunak untuk mengirimkan komentar secara otomatis. Dia juga melakukan eksperimen di mana sukarelawan diminta untuk membedakan antara komentar yang dibuat oleh AI dan yang ditulis oleh manusia. Para sukarelawan tidak lebih baik dari menebak-nebak secara acak.

Setelah mengirimkan komentar, Weiss memberi tahu Pusat Layanan Medicare dan Medicaid. Dia telah menambahkan beberapa karakter untuk memudahkan mengidentifikasi setiap komentar palsu. Meski begitu, katanya, umpan balik AI tetap diposting online selama beberapa bulan.

OpenAI merilis versi yang lebih mampu dari program pembuatan teks, yang disebut GPT-3, Juni lalu. Sejauh ini, ini hanya tersedia untuk beberapa peneliti dan perusahaan AI, dengan beberapa orang membangun aplikasi yang berguna seperti program yang menghasilkan pesan email dari poin-poin penting. Ketika GPT-3 dirilis, OpenAI mengatakan dalam makalah penelitian bahwa mereka tidak melihat tanda-tanda GPT-2 digunakan secara jahat, meskipun telah mengetahui penelitian Weiss.

Diposting oleh : Lagutogel