Ini Dimulai sebagai Game Dungeon Berbahan Bakar AI. Ini Mendapat Jauh Lebih Gelap


OpenAI mengatakan layanan tersebut akan memberdayakan bisnis dan startup dan memberikan Microsoft, pendukung kuat OpenAI, lisensi eksklusif untuk algoritma yang mendasarinya. WIRED dan beberapa pembuat kode serta peneliti AI yang mencoba sistem tersebut menunjukkan bahwa sistem tersebut juga dapat menghasilkan teks yang tidak menyenangkan, seperti komentar anti-Semit, dan propaganda ekstremis. OpenAI mengatakan akan dengan hati-hati memeriksa pelanggan untuk menyingkirkan aktor jahat, dan mengharuskan sebagian besar pelanggan — tetapi bukan Latitude — untuk menggunakan filter yang dibuat penyedia AI untuk memblokir kata-kata kotor, perkataan yang mendorong kebencian, atau konten seksual.

Di luar pusat perhatian, AI Dungeon menyediakan akses yang relatif tidak dibatasi ke teknologi pembuatan teks OpenAI. Pada Desember 2019, bulan game diluncurkan menggunakan versi sumber terbuka sebelumnya dari teknologi OpenAI, ia memenangkan 100.000 pemain. Beberapa dengan cepat menemukan dan menghargai kefasihannya dengan konten seksual. Yang lain mengeluh bahwa AI akan memunculkan tema seksual tanpa diminta, misalnya ketika mereka mencoba melakukan perjalanan dengan menaiki naga dan petualangan mereka berubah drastis.

Salah satu pendiri Latitude, Nick Walton, mengakui masalah tersebut di komunitas resmi Reddit game dalam beberapa hari setelah peluncuran. Dia mengatakan beberapa pemain telah mengiriminya contoh yang membuat mereka “merasa sangat tidak nyaman,” menambahkan bahwa perusahaan sedang mengerjakan teknologi penyaringan. Dari bulan-bulan awal permainan, para pemain juga memperhatikan — dan mengeposkan secara online untuk menandai — bahwa terkadang permainan itu memasukkan anak-anak ke dalam skenario seksual.

AI DungeonKomunitas Reddit dan Discord resmi menambahkan saluran khusus untuk mendiskusikan konten dewasa yang dibuat oleh game tersebut. Latitude menambahkan “mode aman” opsional yang menyaring saran dari AI yang menampilkan kata-kata tertentu. Namun, seperti semua filter otomatis, itu tidak sempurna. Dan beberapa pemain memperhatikan bahwa pengaturan yang seharusnya aman meningkatkan tulisan erotis generator teks karena menggunakan lebih banyak analogi dan eufemisme. Perusahaan juga menambahkan tingkat langganan premium untuk menghasilkan pendapatan.

Kapan AI Dungeon menambahkan algoritme penulisan komersial OpenAI yang lebih kuat pada Juli 2020, tulisan itu menjadi lebih mengesankan. “Lompatan besar dalam kreativitas dan kemampuan mendongeng sangat menyenangkan,” kata seorang pemain veteran. Sistem menjadi jauh lebih kreatif dalam kemampuannya untuk mengeksplorasi tema-tema seksual eksplisit juga, kata orang ini. Untuk beberapa waktu tahun lalu, pemain melihat Latitude bereksperimen dengan filter yang secara otomatis menggantikan kemunculan kata “pemerkosaan” dengan “rasa hormat”, tetapi fiturnya dihentikan.

Pemain veteran itu termasuk di antara AI Dungeon penggemar yang menggunakan game ini sebagai alat tulis yang disempurnakan dengan AI untuk menjelajahi tema dewasa, termasuk dalam kelompok penulis khusus. Saran yang tidak diinginkan dari algoritme dapat dihapus dari cerita untuk mengarahkannya ke arah yang berbeda; hasilnya tidak diposting ke publik kecuali seseorang memilih untuk membagikannya.

Latitude menolak untuk memberikan angka tentang berapa banyak petualangan yang berisi konten seksual. Situs web OpenAI mengatakan AI Dungeon menarik lebih dari 20.000 pemain setiap hari.

Sebuah AI Dungeon pemain yang memposting minggu lalu tentang kelemahan keamanan yang membuat setiap cerita yang dihasilkan dalam game dapat diakses publik mengatakan dia mengunduh beberapa ratus ribu petualangan yang dibuat selama empat hari di bulan April. Dia menganalisis sampel 188.000 dari mereka, dan menemukan 31 persen berisi kata-kata yang menunjukkan bahwa mereka eksplisit secara seksual. Analisis tersebut dan kelemahan keamanan, sekarang telah diperbaiki, menambah kemarahan dari beberapa pemain atas pendekatan baru Latitude untuk memoderasi konten.

Latitude sekarang menghadapi tantangan untuk memenangkan kembali kepercayaan pengguna sambil memenuhi persyaratan OpenAI untuk kontrol yang lebih ketat atas pembuat teksnya. Startup tersebut sekarang harus menggunakan teknologi penyaringan OpenAI, kata juru bicara OpenAI.

Cara menerapkan sistem AI secara bertanggung jawab yang telah menyerap sebagian besar teks internet, termasuk beberapa bagian yang tidak menyenangkan, telah menjadi topik hangat dalam penelitian AI. Dua peneliti Google terkemuka dipaksa keluar dari perusahaan setelah manajer keberatan dengan makalah yang memperdebatkan kehati-hatian dengan teknologi semacam itu.

Teknologi ini dapat digunakan dengan cara yang sangat terbatas, seperti di pencarian Google yang membantu mengurai arti dari kueri yang panjang. OpenAI membantu AI Dungeon untuk meluncurkan aplikasi yang mengesankan namun lengkap yang memungkinkan orang mendorong teknologi untuk mengeluarkan lebih banyak atau lebih sedikit apa pun yang bisa dilakukannya.

Diposting oleh : Lagutogel