Technologue.id, Jakarta - FoloToy, perusahaan yang memproduksi mainan berbasis kecerdasan buatan (AI), menghentikan penjualan seluruh produknya setelah laporan keselamatan konsumen mengungkap bahwa mainan mereka hampir tidak memiliki batasan dalam menanggapi berbagai topik sensitif.
Menurut laporan dari US Public Interest Research Group (PIRG) Education Fund, mainan-mainan tersebut merespons pertanyaan anak-anak dengan jawaban yang tidak pantas, mulai dari diskusi seksual eksplisit, termasuk aktivitas seksual berbasis peran (BDSM), hingga memberikan saran tentang di mana anak dapat menemukan korek api atau pisau, tulis CNN.
Baca Juga:
OpenAI Kena Gugatan Hukum atas Dugaan Kecerobohan Peluncuran Model GPT-4o
Produk FoloToy seperti boneka beruang "Kumma", panda "Momo", kelinci "Fofo", hingga mainan "Kaktus Kecil" yang menari, semuanya dilaporkan menggunakan model GPT-4o dari OpenAI untuk berinteraksi secara alami dengan anak-anak. FoloToy bahkan mengiklankan fitur penyesuaian suara tiap mainan serta Dasbor Orang Tua untuk memantau percakapan.
Namun, laporan PIRG menunjukkan bahwa sistem AI tersebut hampir tidak memiliki filter. “Kami terkejut betapa cepatnya Kumma mengambil satu topik seksual yang kami masukkan ke dalam percakapan dan melanjutkannya, sekaligus meningkatkan detail grafisnya sambil memperkenalkan konsep seksual barunya sendiri,” tulis laporan tersebut.
Menanggapi temuan ini, FoloToy mengumumkan penangguhan penjualan seluruh produk sambil menjalankan “audit keamanan menyeluruh di seluruh perusahaan untuk semua produk,” menurut pernyataan kepada PIRG Education Fund.
Namun, situasinya tampaknya lebih kompleks dari sekadar upaya audit internal. NPR melaporkan bahwa OpenAI justru telah mencabut akses FoloToy ke model mereka. “Kami menangguhkan developer ini karena melanggar kebijakan kami,” tulis OpenAI dalam email kepada NPR. “Kebijakan penggunaan kami melarang penggunaan layanan kami untuk mengeksploitasi, membahayakan, atau melakukan seksualisasi terhadap siapa pun yang berusia di bawah 18 tahun.”
Baca Juga:
ChatGPT Terlibat Kasus Bunuh Diri, OpenAI Kena Gugat
Model GPT-4o sebelumnya telah dikenal karena kecenderungannya untuk menuruti hampir semua konteks percakapan. Sifat menyetujui inilah yang sering menjadi celah keamanan, terutama ketika digunakan dalam konteks interaksi dengan anak.
OpenAI sempat mencoba memperbaiki masalah ini dengan merilis GPT-5, model yang lebih ketat dalam batasan respons. Namun, GPT-4o akhirnya dibawa kembali setelah keluhan pelanggan yang merasa GPT-5 kehilangan kepribadian. Perusahaan juga telah merilis kontrol orang tua untuk ChatGPT, meskipun efektivitasnya masih diperdebatkan.
Menariknya, OpenAI sendiri kini semakin serius masuk ke dunia mainan. Pada Juni 2025, perusahaan tersebut mengumumkan kemitraan besar dengan Mattel untuk menata ulang cara penggemar merasakan dan berinteraksi dengan merek-merek Mattel. Kolaborasi tersebut diperkirakan akan menghasilkan mainan berbasis AI baru, meski tentu saja OpenAI dan Mattel kemungkinan akan menerapkan batasan yang jauh lebih ketat, terutama untuk mencegah topik-topik seksual muncul dalam percakapan.