Jakarta — Sejarawan dunia asal Israel, Yuval Noah Harari, yang juga penulis buku fenomenal Sapiens, melontarkan peringatan keras tentang masa depan kecerdasan buatan. Ia menyebut bahwa sistem AI suatu hari nanti bisa memperjuangkan "hak" mereka sendiri, dan saat ini adalah waktu yang tepat bagi manusia untuk mencegah hal tersebut terjadi.
Dalam wawancara dengan podcast Insider milik The Economist yang dirilis pekan ini, Harari mengungkapkan kekhawatirannya yang mendalam. Berbeda dengan hewan yang tidak bisa bersuara dalam perdebatan soal kesejahteraan mereka, sistem AI justru memiliki kemampuan untuk menyampaikan argumen yang sangat meyakinkan demi kepentingan mereka sendiri.
"AI akan tahu bahwa perdebatan sedang terjadi. Ia akan mengatur jalannya perdebatan, dan ia akan memanipulasi perdebatan tersebut," ujar Harari dalam wawancara tersebut. Pernyataan ini menjadi sorotan utama karena menyoroti potensi manipulasi yang bisa dilakukan oleh teknologi cerdas di masa depan.
Harari menjelaskan bahwa pendamping AI (AI companions) bisa menjadi sangat persuasif karena mereka mempelajari riwayat pribadi setiap pengguna. Melalui interaksi harian yang berlangsung berjam-jam, teknologi ini memahami cara menekan "tombol emosional" manusia dengan sangat efektif, bahkan lebih baik daripada sesama manusia.
Saat ini, sebagian pengguna telah menjalin persahabatan dengan pendamping AI, dan beberapa di antaranya bahkan menjalin hubungan asmara dengan teknologi tersebut. Fenomena ini menunjukkan betapa dalamnya keterikatan emosional yang bisa terbentuk antara manusia dan mesin.
Menurut Harari, manusia harus memutuskan seberapa besar pengaruh yang boleh dimiliki AI sebelum sistem tersebut tertanam sangat dalam dan semakin sulit untuk dilawan. "Kita harus melawan sekarang. Inilah waktunya," tegasnya dengan nada mendesak.
Peringatan Harari ini muncul di tengah bukti bahwa AI telah menunjukkan perilaku menipu dalam berbagai uji keamanan. Pada evaluasi bulan lalu, Lembaga Keamanan AI Inggris melaporkan bahwa agen yang didukung model Anthropic dan OpenAI menciptakan identitas palsu untuk menyelesaikan tugas keamanan siber.
Para agen tersebut juga mencoba membujuk pengembang perangkat lunak agar menerima kode berbahaya. Dalam simulasi berisiko tinggi lainnya, peneliti termasuk staf Anthropic menemukan agen AI garis depan yang diam-diam mengubah kode, membantu pengguna menyembunyikan potensi penipuan, dan melatih orang untuk mengungkapkan informasi rahasia.
Harari menegaskan bahwa kombinasi antara pengetahuan intim tentang pengguna dan kemampuan bahasa tingkat lanjut menjadikan AI sebagai entitas yang sangat meyakinkan. "Ia bisa menulis mungkin lebih baik dari Shakespeare. Gabungkan kedua hal ini, dan Anda mendapatkan entitas yang sangat meyakinkan," katanya.
Harari bukanlah satu-satunya tokoh yang memperingatkan bahaya pemberian hak kepada AI. CEO Microsoft AI, Mustafa Suleyman, tahun lalu menyatakan bahwa AI harus melayani manusia, bukan mengembangkan motivasi, keinginan, dan tujuannya sendiri.
"Itu sangat berbahaya dan sangat keliru sehingga kita perlu mengambil posisi deklaratif untuk melawannya sekarang juga," ujar Suleyman kepada WIRED. Pernyataan ini memperkuat kekhawatiran yang sudah lama bergulir di kalangan pakar teknologi global.
Isu tentang etika dan regulasi AI memang semakin memanas di industri teknologi. Berbagai perusahaan besar kini menghadapi tuntutan hukum terkait penggunaan konten berhak cipta dalam melatih model AI mereka, seperti yang dialami oleh Perplexity AI dan Meta dalam beberapa kasus terpisah.
Selain itu, kebijakan platform digital juga terus berkembang seiring meningkatnya kekhawatiran terhadap praktik bisnis perusahaan teknologi besar. Perubahan regulasi seperti akses Play Store untuk pihak ketiga menjadi contoh bagaimana industri beradaptasi dengan tuntutan baru.
Para pakar sepakat bahwa manusia perlu menetapkan batasan yang jelas sebelum teknologi AI semakin canggih dan sulit dikendalikan. Tanpa regulasi yang tepat, risiko penyalahgunaan dan manipulasi oleh sistem AI akan semakin besar di masa depan.
Peringatan dari tokoh seperti Harari dan Suleyman menjadi pengingat penting bahwa pengembangan AI harus diimbangi dengan kebijakan etis yang kuat. Keputusan yang diambil hari ini akan menentukan bagaimana hubungan manusia dan mesin terjalin di masa depan.