Technologue.id, Jakarta – ChatGPT semakin banyak digunakan untuk berbagai kebutuhan, mulai dari mencari informasi, membantu pekerjaan, membuat tulisan, hingga menjelaskan berbagai topik. Namun, kemudahan tersebut bukan berarti chatbot AI bisa menggantikan semua peran manusia, terutama untuk persoalan yang menyangkut hukum, kesehatan, pekerjaan, dan informasi pribadi.
Sejumlah kasus menunjukkan bahwa jawaban AI yang keliru dapat menimbulkan masalah serius. Ada pengguna yang memasukkan informasi rahasia ke chatbot, menggunakan AI untuk mencari nasihat hukum, hingga mengikuti saran medis yang ternyata berbahaya.
Masalah lainnya berkaitan dengan privasi. Percakapan dengan ChatGPT tidak otomatis memiliki perlindungan kerahasiaan seperti hubungan antara pasien dan dokter atau klien dan pengacara. CEO OpenAI Sam Altman sendiri pernah mendorong adanya perlindungan khusus untuk percakapan dengan AI, terutama karena semakin banyak orang menggunakan chatbot untuk membahas persoalan pribadi.
OpenAI juga menyediakan sejumlah pengaturan privasi. Misalnya, pengguna dapat mematikan penggunaan percakapan baru untuk meningkatkan model. Ada pula fitur Temporary Chat yang tidak muncul di riwayat, tidak membuat atau memperbarui memori, dan tidak digunakan untuk meningkatkan model selama percakapan tersebut tetap bersifat sementara. Namun, OpenAI menyebut salinan Temporary Chat dapat disimpan hingga 30 hari untuk keperluan keamanan.
Karena itu, berikut lima hal yang sebaiknya tidak dijadikan tempat untuk meminta bantuan utama kepada ChatGPT.
1. Jangan gunakan ChatGPT sebagai pengganti pengacara
ChatGPT dapat membantu menjelaskan istilah hukum secara umum. Namun, pengguna sebaiknya tidak mengandalkannya untuk menangani sengketa atau mendapatkan nasihat hukum yang membutuhkan penilaian profesional.
Salah satu masalah yang sering muncul adalah halusinasi AI, ketika chatbot menghasilkan informasi yang terdengar meyakinkan tetapi sebenarnya tidak benar. Dalam perkara hukum, kesalahan seperti referensi kasus, kutipan, atau argumen yang dibuat-buat dapat berakibat serius.
Masalah tersebut bahkan pernah ditemukan dalam berbagai dokumen pengadilan. Penggunaan referensi hukum yang ternyata tidak ada dapat membuat pihak yang mengajukannya harus memberikan penjelasan kepada hakim dan, dalam sejumlah kasus, menghadapi sanksi.
OpenAI sendiri dalam kebijakan penggunaannya menyatakan bahwa layanan tidak boleh digunakan untuk memberikan nasihat khusus yang membutuhkan lisensi, termasuk nasihat hukum atau medis, tanpa keterlibatan profesional berlisensi.
Artinya, ChatGPT masih bisa digunakan untuk pertanyaan umum seperti "apa arti tort dalam hukum?". Namun, untuk pertanyaan seperti "apa yang harus saya lakukan dalam kasus hukum saya?", pengacara tetap menjadi sumber yang tepat.
2. Jangan menjadikan ChatGPT sebagai terapis utama
ChatGPT dapat menjadi tempat untuk berbicara atau membantu seseorang mencari informasi umum mengenai kesehatan mental. Namun, chatbot bukan pengganti psikolog, psikiater, konselor, atau layanan darurat.
Risikonya menjadi lebih besar ketika seseorang sedang mengalami kondisi psikologis serius. Model AI dapat memberikan respons yang terdengar mendukung, tetapi tidak selalu mampu memahami situasi pengguna secara lengkap atau memberikan intervensi klinis yang tepat.
OpenAI sendiri telah melakukan pembaruan untuk meningkatkan respons ChatGPT dalam percakapan yang berkaitan dengan tekanan mental. Perusahaan mengatakan telah bekerja sama dengan lebih dari 170 pakar kesehatan mental dan meningkatkan kemampuan model untuk mengenali tanda-tanda distress serta mengarahkan pengguna kepada dukungan di dunia nyata.
Namun, peningkatan sistem tersebut tidak mengubah prinsip dasarnya: AI bukan pengganti tenaga profesional kesehatan mental.
Jika seseorang sedang menghadapi krisis atau memiliki risiko menyakiti diri sendiri, bantuan manusia secara langsung dan layanan darurat atau krisis di wilayah masing-masing jauh lebih tepat daripada hanya mengandalkan chatbot.
3. Jangan memasukkan informasi rahasia perusahaan
Ini mungkin terdengar sederhana, tetapi informasi pekerjaan merupakan salah satu jenis data yang sebaiknya tidak sembarangan dimasukkan ke chatbot publik.
Contohnya adalah kode sumber perusahaan, kontrak, data pelanggan, dokumen internal, strategi bisnis, laporan keuangan yang belum dipublikasikan, atau informasi yang dilindungi perjanjian kerahasiaan atau NDA.
Masalahnya bukan hanya soal apakah AI akan "mengingat" dokumen tersebut. Pengguna juga harus mempertimbangkan kebijakan perusahaan, pengaturan akun, siapa yang mengelola layanan AI, serta bagaimana data diproses dan disimpan.
Untuk layanan konsumen, OpenAI menyatakan bahwa konten dapat digunakan untuk meningkatkan model, tergantung pada pengaturan pengguna. Pengguna dapat menonaktifkan opsi tersebut melalui Data Controls. Sementara itu, layanan bisnis seperti ChatGPT Business, Enterprise, Edu, dan API memiliki pengaturan penggunaan data yang berbeda dan secara default tidak digunakan untuk melatih model.
Karena itu, aturan paling aman adalah jangan memasukkan sesuatu ke chatbot publik jika Anda memang tidak memiliki izin untuk membagikannya kepada layanan pihak ketiga.
4. Jangan meminta diagnosis atau pengobatan medis
ChatGPT dapat membantu menjelaskan istilah medis atau membantu pengguna memahami informasi yang diberikan dokter. Namun, chatbot tidak seharusnya menjadi sumber utama untuk menentukan diagnosis atau pengobatan.
Kesalahan dalam konteks kesehatan dapat memiliki konsekuensi yang jauh lebih serius dibandingkan kesalahan dalam menjawab pertanyaan biasa. Informasi yang diberikan chatbot juga dapat terlihat meyakinkan meskipun ternyata tidak sesuai dengan kondisi pengguna.
OpenAI memasukkan nasihat medis yang membutuhkan lisensi ke dalam kategori penggunaan yang memerlukan keterlibatan profesional berlisensi.
Karena itu, pertanyaan seperti "apa arti istilah ini dalam hasil pemeriksaan saya?" masih dapat digunakan sebagai titik awal untuk memahami informasi. Namun, pertanyaan mengenai diagnosis, perubahan obat, dosis, atau keputusan pengobatan sebaiknya dibicarakan langsung dengan dokter.
ChatGPT juga tidak seharusnya digunakan sebagai sumber tunggal untuk menentukan apakah seseorang mengalami kondisi kesehatan tertentu.
5. Jangan masukkan kata sandi dan data identitas
Ini adalah salah satu aturan paling sederhana: jangan masukkan kata sandi ke ChatGPT.
Hal yang sama berlaku untuk kode OTP, nomor kartu kredit atau rekening, nomor paspor, nomor identitas, informasi login, foto dokumen penting, atau data lain yang dapat digunakan untuk mengambil alih akun maupun identitas seseorang.
Data percakapan memiliki berbagai pengaturan penyimpanan dan privasi. Chat biasa dapat tetap tersimpan di akun sampai pengguna menghapusnya. OpenAI menyatakan bahwa setelah chat dihapus, data tersebut dijadwalkan untuk dihapus permanen dalam waktu 30 hari, kecuali terdapat alasan hukum atau keamanan yang mengharuskan penyimpanan lebih lama.
Pengguna juga perlu memahami bahwa mematikan penggunaan data untuk pelatihan bukan berarti chat langsung hilang. OpenAI menjelaskan bahwa ketika fitur peningkatan model dimatikan, percakapan baru tetap dapat muncul di riwayat chat.
Untuk percakapan yang tidak ingin disimpan di riwayat, pengguna dapat menggunakan Temporary Chat. Namun, fitur tersebut tetap bukan alasan untuk memasukkan kata sandi atau informasi sangat sensitif karena salinannya dapat disimpan hingga 30 hari untuk keperluan keamanan.