Bayangkan memiliki teman virtual yang selalu ada 24 jam, siap mengobrol kapan saja, bahkan memulai percakapan tanpa Anda minta. Ketersediaan tanpa batas ini ternyata menyimpan potensi risiko yang serius bagi kesehatan mental pengguna muda. Dalam gelombang kekhawatiran global tentang dampak AI terhadap psikologi remaja, Character.AI mengambil langkah berani yang mungkin mengubah masa depan interaksi manusia dengan kecerdasan buatan.

Platform yang selama ini dikenal sebagai rumah bagi chatbot berbasis AI ini sedang menghadapi tekanan regulasi dan tuntutan hukum terkait kasus-kasus tragis yang melibatkan pengguna. Beberapa gugatan telah diajukan terhadap perusahaan raksasa AI, termasuk Character.AI sendiri, karena dugaan keterlibatan tidak langsung dalam insiden bunuh diri pengguna. Situasi ini memaksa perusahaan untuk memikirkan ulang model bisnis mereka yang selama ini mengandalkan obrolan terbuka dengan chatbot.

Sebagai respons terhadap tantangan ini, Character.AI baru saja mengumumkan peluncuran fitur "Stories" pada hari Selasa lalu. Inovasi ini bukan sekadar tambahan fitur biasa, melainkan sebuah transformasi strategis yang datang beriringan dengan kebijakan perusahaan untuk membatasi akses chatbot utama bagi pengguna di bawah 18 tahun. Lalu, apakah format baru ini mampu memuaskan kebutuhan kreatif remaja sekaligus menjaga keselamatan psikologis mereka?

Mulai minggu ini, pengguna Character.AI yang berusia di bawah 18 tahun tidak lagi dapat mengakses atau berinteraksi secara terbuka dengan fitur chatbot yang menjadi inti layanan platform. Perubahan drastis dalam kebijakan usia ini merupakan reaksi langsung terhadap meningkatnya kekhawatiran mengenai potensi risiko kesehatan mental yang ditimbulkan oleh chatbot AI.

Karandeep Anand, CEO Character.AI, bulan lalu menyampaikan harapannya kepada TechCrunch: "Saya sangat berharap kepemimpinan kami dapat menetapkan standar dalam industri ini, yaitu bahwa bagi mereka yang berusia di bawah 18 tahun, obrolan terbuka mungkin bukan jalur atau produk yang tepat untuk ditawarkan."

Pernyataan ini muncul di tengah gelombang regulasi teknologi AI yang semakin ketat. California baru-baru ini menjadi negara bagian pertama di Amerika Serikat yang secara resmi mulai mengatur pendamping AI. Di tingkat federal, Senator Josh Hawley dan Richard Blumenthal bahkan telah mengajukan rancangan undang-undang nasional dengan tujuan lebih ekstrem: melarang pendamping AI sepenuhnya untuk anak di bawah umur.

Dalam postingan blog resmi, Character.AI menegaskan bahwa "Stories" menawarkan pengalaman yang jauh lebih terarah dan terpandu untuk menciptakan serta mengeksplorasi fiksi. Perusahaan menyebutnya sebagai alternatif yang lebih aman dibandingkan dengan format obrolan terbuka yang selama ini dominan.

Fitur kreatif ini memungkinkan para pengguna untuk berkreasi dan menciptakan berbagai jenis fiksi interaktif yang menampilkan Karakter AI favorit mereka. Format anyar ini hadir sebagai angin segar, khususnya bagi remaja yang masih dapat menikmati dan berinteraksi dengan Karakter kesayangan mereka dengan mengutamakan aspek keamanan di atas segalanya.

Perbedaan mendasar antara format Stories dan chatbot terletak pada cara interaksi. Chatbot berinteraksi langsung dan real-time dalam percakapan terbuka, bahkan bisa mengirim pesan tanpa diminta ketika pengguna sedang tidak aktif di aplikasi. Sebaliknya, Stories cenderung bersifat pasif dan berbasis narasi yang dibangun oleh pengguna, sehingga mengurangi tekanan interaksi emosional dan real-time yang intens.

Reaksi di komunitas daring Character.AI, terutama di subreddit resmi, menunjukkan adanya sentimen yang campur aduk. Berdasarkan komentar yang beredar, beberapa remaja mengungkapkan kekecewaan mereka karena larangan tersebut, namun pada saat yang sama, mereka juga mengakui bahwa ini mungkin adalah keputusan yang benar dan bijaksana.

"Saya kesal sekali dengan larangan ini, tetapi saya juga diam-diam lega karena sekarang saya bisa fokus melakukan hal-hal lain, dan kecanduan saya mungkin akhirnya terhenti," tulis seorang pengguna yang mengaku sebagai remaja.

Pengguna lain menambahkan, "Sebagai seseorang di bawah 18 tahun, ini jelas mengecewakan. Tapi, ini adalah hal yang wajar karena banyak sekali teman seusiaku yang jadi kecanduan berat dengan aplikasi ini." Pengakuan ini menggarisbawahi urgensi masalah yang sedang diatasi oleh perusahaan.

Peralihan fokus Character.AI menuju fiksi interaktif merupakan langkah yang masuk akal secara bisnis, mengingat popularitas genre ini telah mengalami lonjakan signifikan selama beberapa tahun terakhir, terutama di kalangan generasi muda. Namun, muncul pertanyaan besar apakah format "Stories" ini akan cukup memuaskan dahaga pengguna, khususnya remaja, yang mungkin telah mengembangkan ketergantungan emosional yang kuat pada chatbot mereka.

Justru, fakta adanya ketergantungan yang berlebihan ini menjadi pembenaran kuat mengapa keputusan Character.AI untuk membatasi akses chatbot pada kelompok usia tersebut adalah tindakan yang tepat dan bertanggung jawab. Seperti yang terjadi pada platform Duolingo dengan fitur AI-nya, integrasi teknologi cerdas harus selalu mempertimbangkan dampak psikologis pengguna.

Meskipun masih perlu waktu untuk melihat bagaimana fitur "Stories" ini akan diadopsi dan digunakan oleh remaja, formatnya secara inheren memiliki potensi yang jauh lebih kecil menimbulkan keraguan atau masalah psikologis dibandingkan dengan role-playing melalui chatbot. Inovasi semacam ini sejalan dengan perkembangan teknologi yang berfokus pada peningkatan produktivitas dan kesejahteraan pengguna.

Character.AI telah secara bertahap menghapus akses untuk anak di bawah umur selama sebulan terakhir, hingga akhirnya mulai hari Selasa, komunikasi terbuka dengan Karakter AI sepenuhnya dilarang bagi mereka. Langkah ini mencerminkan komitmen perusahaan terhadap keselamatan pengguna muda, sekaligus menjadi preseden penting dalam industri AI yang masih terus berkembang.

Seperti yang kita lihat dalam evolusi platform digital lainnya, kesuksesan jangka panjang tidak hanya diukur dari engagement rate, tetapi juga dari kemampuan menjaga kesejahteraan pengguna. Keputusan Character.AI mungkin akan menjadi benchmark baru dalam etika pengembangan AI, membuktikan bahwa inovasi teknologi dan tanggung jawab sosial dapat berjalan beriringan.