Technologue.id, Jakarta - Platform gim online Roblox meluncurkan fitur baru berbasis kecerdasan buatan (AI) yang mampu mengubah bahasa tidak pantas secara real-time dalam percakapan di dalam gim. Inovasi ini menjadi bagian dari upaya perusahaan untuk menciptakan lingkungan digital yang lebih aman dan ramah bagi para pemainnya, terutama anak-anak dan remaja.
Sebelumnya, Roblox telah menggunakan sistem filter AI untuk memblokir kata atau frasa yang melanggar kebijakan komunitas. Namun, pesan yang disensor biasanya hanya diganti dengan deretan tanda pagar seperti “####”. Roblox mengakui pendekatan tersebut sering membuat percakapan menjadi sulit dipahami karena terlalu banyak kata yang disamarkan.
Dengan fitur terbaru ini, sistem AI tidak lagi sekadar menyensor, tetapi mengganti kata atau frasa yang tidak pantas dengan alternatif yang lebih sopan sehingga percakapan tetap mudah diikuti.
Menurut Rajiv Bhatia, Kepala Keamanan Roblox, fitur ini pertama kali difokuskan pada penyaringan kata-kata kasar.
Sebagai contoh, jika seorang pemain menulis pesan seperti “Hurry TF up” di kolom obrolan, sistem akan secara otomatis mengubahnya menjadi “Hurry up!” sebelum pesan tersebut dilihat oleh pemain lain.
Menariknya, semua orang dalam percakapan akan melihat catatan bahwa pesan tersebut telah diedit oleh sistem, sementara pengirim pesan dapat mengetahui bagian bahasa yang diubah oleh AI.
Meski demikian, Roblox menegaskan bahwa fitur ini bukan berarti pengguna bisa bebas menggunakan kata kasar. Pemain yang terus melanggar aturan komunitas tetap akan menerima sanksi dari platform.
“Seiring berkembangnya sistem ini, terciptalah roda penggerak bagi kesopanan, di mana umpan balik secara real-time membantu pengguna belajar dan mengadopsi Standar Komunitas kami,” ujar Bhatia dalam sebuah unggahan blog resmi perusahaan.
Fitur pengubahan kalimat ini saat ini diterapkan pada percakapan antara pengguna yang telah diverifikasi usianya dan berada dalam kelompok umur yang serupa. Sistem ini juga bekerja di semua bahasa yang didukung oleh alat terjemahan dalam gim.
Langkah ini melengkapi kebijakan baru yang sebelumnya diperkenalkan Roblox pada Januari, yakni sistem verifikasi usia wajib untuk meningkatkan keamanan pengguna di platform.
Melalui kebijakan tersebut, anak-anak di bawah usia 13 tahun tidak lagi dapat menggunakan fitur obrolan dalam gim secara bebas, kecuali dalam pengalaman tertentu yang dianggap aman. Sementara itu, pengguna yang lebih tua hanya dapat berinteraksi dengan pemain yang berada pada rentang usia yang sama.
Perubahan ini dilakukan di tengah meningkatnya sorotan terhadap keamanan pengguna di Roblox. Platform tersebut sebelumnya mendapat kritik setelah muncul laporan yang menyebut adanya masalah eksploitasi anak, di mana sejumlah pemain dewasa diduga menggunakan gim untuk mendekati atau merayu anak-anak.
Pada Februari lalu, otoritas di Los Angeles County mengajukan gugatan yang menyatakan bahwa Roblox mengetahui platformnya berpotensi membuat anak-anak rentan menjadi target predator seksual.
Gugatan serupa juga diajukan oleh Louisiana Attorney General's Office, yang menuduh platform tersebut menciptakan ruang publik virtual yang berisiko dimanfaatkan oleh pelaku kejahatan seksual terhadap anak.