Technologue.id, Jakarta - Platform media sosial TikTok kembali menjadi sorotan setelah laporan dari The Verge mengungkap bahwa video-video yang berasal dari zona perang di Gaza ditandai dengan rekomendasi produk dari TikTok Shop. Fitur ini memanfaatkan kecerdasan buatan (AI) untuk mengidentifikasi objek dalam video, dan secara otomatis menyarankan produk serupa — bahkan ketika konteks video tersebut menyangkut tragedi kemanusiaan.
Dalam salah satu contoh yang diangkat oleh The Verge, sebuah video memperlihatkan seorang perempuan Palestina berjalan di antara reruntuhan, mencari anggota keluarga yang hilang. Ketika video tersebut dijeda, TikTok menampilkan pop-up dengan label "Temukan yang Mirip", menampilkan saran produk seperti "Dubai Middle East Turkish Elegant Lace-Up Dress" dan "Women’s Solid Color Knot Front Long Sleeve Dress".
Baca Juga:
Mulai Titik Terang, Kesepakatan TikTok-AS Segera Diteken
Rekomendasi ini tampaknya muncul berdasarkan pakaian yang dikenakan perempuan tersebut dalam video. Namun, mengingat konteksnya sebuah zona konflik aktif dan tragedi kemanusiaan, kemunculan saran belanja dianggap tidak sensitif dan tidak pantas oleh banyak pengguna dan pengamat.
Fitur yang digunakan TikTok ini merupakan bagian dari pengujian terbatas dari sistem baru yang memungkinkan pengguna untuk melihat dan membeli produk yang mirip dengan apa yang muncul di video, cukup dengan menjeda video tersebut.
Meski secara teknis canggih, algoritme AI tersebut tampaknya tidak membedakan konteks emosional atau etis dari video yang ditampilkan. Tidak ada pemfilteran khusus untuk membatasi rekomendasi produk di video dengan muatan sensitif, seperti perang, kekerasan, atau tragedi kemanusiaan.
Baca Juga:
Langgar GDPR, TikTok Kena Denda Triliunan Rupiah
Fitur ini belum dirilis secara global dan hanya tersedia untuk sebagian kecil pengguna. Untuk memeriksa apakah fitur ini aktif, pengguna dapat mencoba menjeda video dan melihat apakah muncul pop-up bertuliskan "Find Similar".
The Verge menyatakan bahwa pihaknya telah menghubungi TikTok untuk klarifikasi terkait bagaimana dan dalam konteks apa teknologi ini digunakan. Hingga saat artikel ini ditulis, belum ada tanggapan resmi dari TikTok.