Technologue.id, Jakarta – Apple memperketat aturan App Store untuk membatasi aplikasi berbasis kecerdasan buatan (AI) yang menghasilkan konten vulgar dan menyinggung. Perusahaan juga melarang developer menyamarkan fungsi aplikasi saat proses peninjauan demi mendapatkan persetujuan, lalu menambahkan fitur yang melanggar aturan setelah aplikasi tersedia.
Pembaruan pedoman ini mewajibkan developer menerapkan sistem moderasi yang memadai, terutama untuk aplikasi yang memungkinkan pengguna mengunggah atau membuat konten sendiri.
Apple menyatakan aplikasi dengan konten buatan pengguna harus memiliki fitur penyaringan materi tidak pantas, sarana pelaporan konten yang menyinggung, serta kemampuan memblokir akun yang melakukan pelecehan.
Apple juga menyoroti praktik bait-and-switch, yaitu ketika aplikasi menampilkan fungsi yang tampak aman saat proses peninjauan, tetapi kemudian menghadirkan fitur berbeda yang melanggar ketentuan.
Praktik tersebut termasuk aplikasi yang diam-diam menambahkan kemampuan untuk menghasilkan gambar vulgar, seperti memanipulasi foto seseorang agar terlihat telanjang.
Apple menegaskan akan menghapus aplikasi yang menambahkan fitur yang tidak disertakan dalam versi yang diajukan untuk preview App Store. Perusahaan juga memperbarui ketentuan hukumnya untuk menegaskan larangan terhadap aplikasi yang mempromosikan perdagangan manusia dan eksploitasi anak.
Upaya pengetatan ini melanjutkan langkah Apple dalam menangani penipuan dan penyalahgunaan di toko aplikasinya. Tahun lalu, perusahaan menyebut proses peninjauannya telah mencegah lebih dari 150.000 aplikasi tersedia bagi pengguna dan menghapus 193.000 akun developer karena dugaan penipuan serta penyalahgunaan.
Tekanan terhadap toko aplikasi juga meningkat setelah otoritas San Francisco pada Juli memerintahkan Apple dan Google membersihkan aplikasi pembuat konten vulgar dari platform mereka. Jaksa Kota David Chiu menuding kedua perusahaan memperoleh keuntungan dari aplikasi tersebut melalui biaya transaksi.
Sebelumnya, laporan Tech Transparency Project pada April juga menemukan aplikasi pembuat konten vulgar di toko aplikasi Apple dan Google. Beberapa di antaranya bahkan memiliki peringkat usia yang memungkinkan anak-anak mengaksesnya.