Technologue.id, Jakarta – Meta memperluas fitur perlindungan bagi pengguna remaja dengan menghadirkan sistem baru yang dapat memberi tahu orang tua atau wali apabila percakapan anak mereka dengan Meta AI mengindikasikan adanya risiko bunuh diri atau tindakan melukai diri sendiri. Langkah ini merupakan bagian dari upaya perusahaan memperkuat keamanan pengguna muda di platformnya sekaligus menjawab kekhawatiran orang tua dan regulator terkait penggunaan AI oleh remaja.
Fitur baru tersebut mulai diluncurkan untuk pengguna Instagram Parental Supervision di Amerika Serikat, Inggris, Australia, dan Kanada. Meta menargetkan layanan ini tersedia secara global bagi seluruh pengguna fitur pengawasan orang tua sebelum akhir tahun.
Sebelumnya, Meta AI telah memiliki mekanisme yang akan memberikan informasi mengenai layanan bantuan krisis (crisis helpline) dan mendorong pengguna untuk berbicara dengan orang dewasa yang dipercaya ketika sistem mendeteksi pembahasan mengenai bunuh diri atau tindakan melukai diri sendiri.
Kini, perlindungan tersebut diperluas. Selain memberikan rekomendasi langsung kepada remaja, Meta juga akan mengirimkan pemberitahuan kepada orang tua atau wali yang mengawasi akun tersebut apabila percakapan dinilai menunjukkan adanya potensi risiko.
Pemberitahuan tersebut akan disertai berbagai sumber informasi, panduan, dan saran mengenai langkah-langkah yang dapat dilakukan orang tua untuk memberikan dukungan kepada anak mereka.
Untuk menjalankan fitur ini, Meta mengembangkan sistem AI khusus yang bertugas mengidentifikasi percakapan yang mengandung indikasi risiko bunuh diri atau melukai diri sendiri.
Namun, perusahaan menegaskan bahwa setiap percakapan yang ditandai oleh AI tidak akan langsung memicu notifikasi. Sebelum pemberitahuan dikirim, percakapan tersebut akan diperiksa terlebih dahulu oleh tim peninjau manusia guna mengurangi kemungkinan kesalahan deteksi yang dapat memicu kepanikan.
Meski demikian, Meta menyatakan akan mengutamakan aspek keselamatan. Artinya, apabila hasil peninjauan masih menunjukkan adanya kemungkinan risiko meskipun maksud pengguna belum sepenuhnya jelas, perusahaan tetap akan mengirimkan pemberitahuan kepada orang tua sebagai langkah pencegahan.
Selain sistem notifikasi kepada orang tua, Meta juga tengah mengembangkan kemampuan baru yang memungkinkan perusahaan menghubungi layanan darurat apabila percakapan dengan Meta AI menunjukkan bahwa seorang pengguna berada dalam risiko tinggi untuk segera melakukan tindakan bunuh diri.
Fitur tersebut nantinya tidak hanya berlaku bagi pengguna remaja, tetapi juga untuk pengguna dewasa apabila sistem mendeteksi adanya ancaman yang bersifat mendesak.