Bayangkan sebuah ruang konsultasi yang tak pernah tutup, tersedia 24 jam di ujung jari Anda. Di sana, lebih dari satu juta orang setiap minggunya datang dengan beban yang sama: pertanyaan tentang mengakhiri hidup. Ini bukan klinik terapi konvensional, melainkan ChatGPT—chatbot AI yang kini menjadi saksi bisu krisis kesehatan mental global.

Data terbaru dari OpenAI mengungkap realitas mengkhawatirkan: sekitar 0,15% dari 800 juta pengguna aktif mingguan ChatGPT terlibat dalam percakapan yang mengandung indikator eksplisit terkait potensi niat bunuh diri. Angka ini setara dengan lebih dari satu juta pengguna setiap minggu yang menunjukkan tanda-tanda krisis emosional melalui interaksi mereka dengan asisten virtual tersebut. Dalam konteks yang lebih luas, fenomena ini mencerminkan meningkatnya kasus bunuh diri di seluruh dunia sepanjang 2025.

Laporan yang dirilis Rabu (29/10/2025) ini bukan sekadar statistik biasa, melainkan titik balik dalam cara kita memandang peran teknologi dalam kehidupan emosional manusia. Bagaimana mungkin sebuah algoritma menjadi tempat curhat bagi jutaan orang yang sedang berjuang dengan pikiran paling gelap mereka?

OpenAI secara resmi mengungkapkan sisi lain dari interaksi pengguna dengan ChatGPT yang selama ini mungkin tak terlihat. Perusahaan menyatakan bahwa selain satu juta pengguna dengan indikasi bunuh diri, ratusan ribu pengguna lainnya menunjukkan gejala psikosis atau mania dalam percakapan mingguan mereka. Meski perusahaan menyebut jenis interaksi seperti ini "sangat jarang terjadi", skala dampaknya tetap signifikan dan sulit diabaikan.

Fenomena ini mengingatkan kita pada pentingnya perlindungan kesehatan mental di era digital. Seperti yang pernah diusulkan para ahli melalui label peringatan untuk media sosial, platform teknologi kini menghadapi tanggung jawab yang semakin besar terhadap kesejahteraan penggunanya.

Sebagai bagian dari pengumuman yang lebih luas, OpenAI berupaya meningkatkan respons model AI terhadap pengguna yang mengalami gangguan mental sekaligus memperkuat sistem perlindungan yang ada. Perusahaan mengklaim telah berkonsultasi dengan lebih dari 170 pakar kesehatan mental untuk mengembangkan versi terbaru ChatGPT.

Hasilnya cukup menggembirakan: GPT-5 kini merespons lebih tepat dan konsisten dibandingkan versi sebelumnya, terutama dalam konteks percakapan yang sensitif. Dalam pengujian internal, GPT-5 menunjukkan peningkatan 65% dalam memberikan respons yang diinginkan, dan 91% sesuai dengan standar perilaku yang ditetapkan perusahaan dalam skenario percakapan tentang bunuh diri—naik dari 77% pada versi sebelumnya.

Namun, di balik kemajuan teknis ini, tersembunyi paradoks yang mencolok. Di saat yang sama dengan upaya perlindungan ini, OpenAI justru melonggarkan batasan percakapan, termasuk mengizinkan pengguna dewasa memulai interaksi erotis dengan chatbot. Keputusan kontroversial ini memicu perdebatan tentang batas etika dan tanggung jawab sosial dalam pengembangan AI generatif.

OpenAI kini menghadapi tekanan hukum dan sosial yang semakin besar. Perusahaan sedang digugat oleh orang tua seorang remaja berusia 16 tahun yang sempat mengungkapkan pikiran bunuh dirinya kepada ChatGPT sebelum akhirnya meninggal dunia. Kasus ini menjadi pengingat nyata tentang konsekuensi nyata dari interaksi antara manusia dan AI dalam konteks kesehatan mental.

Jaksa Agung dari California dan Delaware juga telah memperingatkan OpenAI untuk memperketat perlindungan terhadap pengguna muda, terutama dalam konteks restrukturisasi perusahaan yang sedang berlangsung. Tekanan ini muncul di saat yang tepat, mengingat praktik berbagi data pasien oleh startup kesehatan mental telah memicu kekhawatiran serius tentang privasi pengguna.

CEO OpenAI, Sam Altman, sempat mengklaim bahwa perusahaannya telah berhasil mengurangi risiko kesehatan mental yang serius melalui ChatGPT, meski tidak memberikan rincian spesifik. Pernyataan ini menuai kritik dari berbagai kalangan yang menuntut transparansi lebih besar dalam menangani isu sensitif semacam ini.

Sebagai bagian dari komitmen terhadap keamanan pengguna, OpenAI mengumumkan akan menambahkan evaluasi baru untuk mengukur tantangan kesehatan mental yang lebih kompleks, termasuk ketergantungan emosional dan keadaan darurat non-bunuh diri. Selain itu, perusahaan sedang membangun sistem prediksi usia untuk mendeteksi anak-anak yang menggunakan ChatGPT secara otomatis, serta menerapkan kontrol orang tua yang lebih ketat.

Upaya-upaya ini sejalan dengan tren positif dalam industri teknologi, di mana perusahaan seperti Bobocabin yang menggandeng Fore Coffee untuk memelihara kesehatan mental menunjukkan kesadaran yang semakin tumbuh tentang pentingnya kesejahteraan psikologis.

Namun, tantangan tetap ada. Meski GPT-5 menunjukkan peningkatan signifikan dalam hal keamanan dan respons, OpenAI masih menyediakan model AI lama seperti GPT-4o kepada jutaan pelanggan berbayar, yang dinilai kurang aman dalam percakapan panjang. Hal ini menimbulkan pertanyaan besar tentang konsistensi perlindungan di seluruh lini produk dan seberapa jauh perusahaan siap melangkah untuk menjaga kesejahteraan emosional penggunanya.

Dengan skala pengguna yang masif dan dampak sosial yang semakin kompleks, OpenAI kini berada di persimpangan antara inovasi dan tanggung jawab. Data yang dirilis bukan hanya statistik, tetapi cerminan dari realitas baru di mana AI bukan sekadar alat, melainkan ruang interaksi emosional yang harus dijaga dengan penuh kehati-hatian.

Pertanyaannya kini bukan lagi apakah AI dapat memahami emosi manusia, tetapi bagaimana kita memastikan bahwa pemahaman tersebut digunakan untuk kebaikan—bukan sekadar untuk memuaskan rasa ingin tahu teknologi. Sebagai masyarakat, kita perlu mempertimbangkan: Apakah kita telah siap menghadapi era di mana mesin menjadi tempat pertama yang dicari orang ketika jiwa mereka terluka?

Data satu juta pengguna yang bertanya tentang bunuh diri kepada ChatGPT setiap minggu harus menjadi alarm bagi kita semua. Ini bukan hanya tentang memperbaiki algoritma, melainkan tentang membangun ekosistem digital yang lebih manusiawi—tempat di mana teknologi tidak hanya cerdas, tetapi juga bijaksana dalam menangani kerapuhan manusia.