Technologue.id, Jakarta – Pemerintah Kanada mengumumkan langkah baru untuk meningkatkan perlindungan anak di ruang digital melalui rancangan Safe and Secure Social Media Act atau Undang-Undang Media Sosial Aman. Jika disahkan, aturan tersebut akan melarang anak-anak berusia di bawah 16 tahun memiliki akun media sosial dan memperketat kewajiban platform digital dalam melindungi pengguna muda dari berbagai risiko online.
Kebijakan ini diumumkan oleh Marc Miller dan menempatkan Kanada dalam daftar negara yang mulai membatasi akses remaja terhadap media sosial, mengikuti langkah yang sebelumnya diambil oleh Australia, Indonesia, dan Malaysia.
Selain menetapkan batas usia minimum, RUU tersebut mewajibkan perusahaan media sosial untuk merancang layanan mereka agar lebih aman bagi anak-anak dan remaja. Platform juga akan diminta untuk lebih aktif menghapus konten berbahaya, termasuk deepfake serta materi yang mengandung eksploitasi seksual anak atau berpotensi mengulang trauma korban.
Dalam aturan yang diusulkan, perusahaan teknologi juga diharapkan menyediakan berbagai fitur perlindungan tambahan, seperti label yang menandai konten berbasis kecerdasan buatan (AI), mekanisme pelaporan konten berbahaya yang lebih jelas, serta alat yang memungkinkan pengguna memblokir akun lain dengan lebih mudah.
Pemerintah Kanada menilai langkah-langkah tersebut penting untuk mengurangi paparan anak terhadap konten yang berisiko dan menciptakan lingkungan digital yang lebih aman.
Menariknya, meskipun media sosial akan dikenai batas usia minimum, layanan chatbot berbasis AI tidak akan secara langsung dilarang untuk pengguna di bawah 16 tahun.
Menurut Marc Miller, risiko yang ditimbulkan chatbot AI masih berbeda dengan media sosial dan belum dipelajari secara mendalam dalam konteks dampak sosial terhadap anak-anak.
"Chatbot tidak dipelajari secara mendalam seperti bahaya yang disebabkan oleh platform media sosial. Mereka tidak memiliki peran sosial yang sama," ujar Miller saat konferensi pers peluncuran RUU tersebut.
Meski demikian, pemerintah tetap memasukkan ketentuan khusus terkait layanan chatbot AI dalam rancangan undang-undang tersebut. Langkah ini diyakini sebagai respons terhadap meningkatnya kekhawatiran mengenai interaksi pengguna dengan sistem AI generatif, termasuk sejumlah kasus yang memicu perdebatan mengenai keselamatan pengguna.
Berdasarkan aturan yang diusulkan, penyedia layanan AI diwajibkan mengurangi risiko chatbot menyampaikan konten berbahaya atau mendorong perilaku yang membahayakan pengguna. Platform juga harus menyediakan prosedur darurat untuk menangani situasi krisis yang melibatkan pengguna.
Detail teknis mengenai standar perlindungan yang harus diterapkan oleh platform digital nantinya akan ditentukan oleh Digital Safety Commission of Canada, lembaga baru yang dibentuk melalui undang-undang terpisah.
Komisi tersebut akan bertugas mengawasi pelaksanaan aturan, menegakkan kepatuhan perusahaan teknologi, serta memberikan pengecualian dalam kondisi tertentu. Misalnya, jika sebuah platform dinilai telah memiliki sistem perlindungan yang memadai untuk anak-anak dan remaja, komisi dapat mempertimbangkan dispensasi terhadap sejumlah ketentuan.