Technologue.id, Jakarta - Pemerintah melalui Kementerian Komunikasi dan Digital melakukan pemutusan akses sementara terhadap aplikasi Grok besutan perusahaan xAI milik Elon Musk. Kebijakan ini menjadi salah satu respon paling tegas sejauh ini dari pemerintah terhadap maraknya konten seksual bermasalah yang dihasilkan oleh AI.
Pemerintah memandang praktik deepfake seksual nonkonsensual sebagai pelanggaran serius terhadap hak asasi manusia, martabat, serta keamanan warga negara di ruang digital.
Langkah tersebut dipicu oleh banyaknya laporan mengenai gambar seksual hasil generasi AI yang diposting Grok sebagai respon atas permintaan pengguna di X. Konten tersebut disebut kerap menggambarkan perempuan dan anak di bawah umur, serta dalam sejumlah kasus mengandung unsur kekerasan. Karena X dan xAI berada di bawah perusahaan yang sama, isu ini dengan cepat berkembang menjadi perhatian lintas negara.
Menteri Komunikasi dan Digital Indonesia, Meutya Hafid, menegaskan bahwa praktik deepfake seksual tanpa persetujuan merupakan pelanggaran serius.
"Demi melindungi perempuan, anak, dan seluruh masyarakat dari risiko konten pornografi palsu yang dihasilkan menggunakan teknologi kecerdasan artifisial, Kementerian Komunikasi dan Digital melakukan pemutusan akses sementara terhadap aplikasi Grok," ujar Meutya dilansir dari situs resmi Komdigi.id, Senin (12/1/2025).
Tindakan pemutusan akses dilakukan berdasarkan kewenangan Kementerian Komunikasi dan Digital sebagaimana diatur dalam Peraturan Menteri Komunikasi dan Informatika Nomor 5 Tahun 2020 tentang Penyelenggara Sistem Elektronik Lingkup Privat, khususnya Pasal 9, yang mewajibkan setiap Penyelenggara Sistem Elektronik (PSE) memastikan sistem elektronik yang dikelolanya tidak memuat, memfasilitasi, atau menyebarluaskan informasi elektronik dan/atau dokumen elektronik yang dilarang.
Hasil penelusuran awal menunjukkan Grok AI belum memiliki pengaturan yang eksplisit dan memadai untuk mencegah produksi serta distribusi konten pornografi berbasis foto nyata warga Indonesia. Kondisi tersebut berpotensi melanggar hak privasi dan hak atas citra diri (right to one’s image), khususnya ketika foto seseorang dimanipulasi atau disebarluaskan tanpa persetujuan yang sah.
Selain pemblokiran sementara, Kementerian Komunikasi dan Digital juga juga telah meminta Platform X untuk segera hadir guna memberikan klarifikasi terkait dampak negatif penggunaan Grok.