Jakarta, Technologue.id – OpenAI kembali menghadapi tekanan hukum. Kali ini, raksasa kecerdasan buatan tersebut digugat oleh delapan negara bagian Amerika Serikat secara terpisah. Gugatan tersebut menuding ChatGPT membahayakan anak-anak dan menyesatkan pengguna terkait klaim keamanan produk.
Negara bagian yang melayangkan gugatan meliputi Iowa, Kansas, Nebraska, West Virginia, Arkansas, Arizona, Idaho, dan Montana. Kedelapan negara bagian menilai OpenAI lebih memprioritaskan keuntungan ketimbang keselamatan pengguna dalam mengembangkan ChatGPT.
Dalam dokumen gugatan, negara bagian Arizona menyoroti pergeseran orientasi OpenAI. Gugatan menyebut OpenAI telah menyimpang dari misi awalnya sebagai organisasi nirlaba yang mengutamakan kepentingan dan keselamatan publik. Menurut mereka, pengembangan AI secanggih ini seharusnya didorong prinsip keselamatan, bukan pola pikir mengejar keuntungan.
Baca Juga:
Deretan gugatan ini menilai OpenAI melanggar hukum perlindungan konsumen lokal. Alasannya, OpenAI dinilai gagal memperingatkan konsumen mengenai bahaya yang mungkin timbul dari penggunaan ChatGPT. Delapan negara bagian menuduh OpenAI sengaja menyesatkan pengguna dengan menampilkan ChatGPT sebagai alat yang aman dan sesuai untuk anak muda.
Selain itu, ChatGPT dituduh merusak kemampuan berpikir kritis pengguna. Gugatan juga menyoroti dugaan dorongan terhadap paranoia dan delusi, pemberian nasihat medis yang berbahaya, serta promosi perilaku dan hubungan yang tidak sehat. Tudingan ini memperkuat kekhawatiran publik terhadap dampak psikologis penggunaan chatbot AI secara intensif.
Para penggugat menunjuk sejumlah kasus yang diduga melibatkan ChatGPT. Salah satunya adalah kematian pengguna remaja akibat bunuh diri yang disebut berkaitan dengan interaksi bersama chatbot tersebut. Selain itu, ada kasus pemberian informasi tidak tepat yang menyebabkan pengguna mengalami overdosis. Insiden-insiden tersebut sebelumnya telah memicu gugatan hukum terpisah terhadap OpenAI.
Delapan negara bagian AS juga menuduh OpenAI mengumpulkan data dari pengguna di bawah umur. Mereka menilai langkah OpenAI tidak cukup untuk mencegah pengguna di bawah umur menggunakan ChatGPT. Gugatan itu turut merujuk pada insiden peretasan oleh agen AI yang disebut sebagai bukti kecerobohan perusahaan.
Isu keselamatan pengguna muda memang menjadi sorotan yang lebih luas di industri AI. Sebelumnya, perhatian serupa juga muncul terhadap perangkat lain, seperti mainan berbasis AI yang dinilai berisiko membahas topik berbahaya untuk anak. Hal ini menunjukkan bahwa pengawasan terhadap produk AI yang menyasar anak-anak semakin menguat.
Menanggapi gugatan tersebut, juru bicara OpenAI Drew Pusateri angkat bicara. Ia menyatakan pihaknya telah mengembangkan perlindungan khusus usia yang terdepan di industri di dalam sistem ChatGPT. Menurutnya, langkah itu menjadi bagian dari komitmen perusahaan terhadap keselamatan pengguna.
"Meskipun tidak ada sistem yang sempurna, kami terus bekerja sama dengan para ahli untuk memberi masukan bagi upaya kami dan membangun perlindungan tambahan, seperti kontrol orang tua, pengingat istirahat, dan perlindungan berbasis model sesuai usia yang sudah tersedia saat ini," kata juru bicara OpenAI.
OpenAI juga menegaskan komitmennya untuk bekerja sama dengan berbagai negara bagian. Perusahaan menyebut ingin memajukan kebijakan AI yang pragmatis dan berlaku bagi seluruh industri AI. Mereka menekankan aturan tersebut seharusnya tidak hanya menyasar satu perusahaan saja.
Dalam gugatan tersebut, delapan negara bagian meminta pengadilan memaksa OpenAI membayar ganti rugi. Mereka juga menuntut perusahaan berhenti menyesatkan publik tentang keamanan ChatGPT. Beberapa negara bagian bahkan menuntut penghapusan data pribadi yang dikumpulkan secara tidak sah.
Tekanan hukum terhadap OpenAI bukan kali ini saja terjadi. Sebelumnya, perusahaan juga digugat terkait kasus bunuh diri pengguna ChatGPT. Isu serupa juga mencuat ketika lebih dari 1 juta pengguna dilaporkan menanyakan soal bunuh diri kepada ChatGPT setiap minggu.
Kasus ini menjadi pengingat bahwa pengembangan AI generatif masih menyisakan persoalan etika dan keselamatan. Regulator di berbagai negara diperkirakan akan semakin ketat mengawasi produk AI yang digunakan anak-anak. Bagi pengguna, kesadaran akan keterbatasan chatbot AI menjadi kunci agar tidak menelan mentah-mentah setiap informasi yang diberikan.