Bayangkan sebuah sistem yang bisa menghasilkan daftar target serangan militer dalam hitungan detik, menganalisis ribuan data pengawasan, dan menentukan siapa yang harus dibunuh—semuanya tanpa campur tangan manusia yang signifikan. Ini bukan adegan dari film sci-fi, tetapi kenyataan yang sedang berlangsung di Gaza. Konflik yang telah menewaskan lebih dari 67.000 warga Palestina ini telah menjadi laboratorium uji coba untuk senjata masa depan berbasis kecerdasan buatan.

Perang AI pertama Israel terjadi pada 2021 dengan peluncuran "The Gospel"—nama kode untuk alat AI yang digunakan dalam perang 11 hari melawan Gaza. Sistem ini dengan cepat menghasilkan daftar bangunan potensial untuk ditargetkan dalam serangan militer dengan meninjau data dari pengawasan, citra satelit, dan jejaring sosial. Empat tahun kemudian, bidang kecerdasan buatan mengalami salah satu periode kemajuan paling cepat dalam sejarah teknologi, dan Gaza menjadi tempat uji coba yang mengerikan.

Bagaimana perkembangan teknologi yang seharusnya memajukan peradaban justru menjadi alat penghancur massal? Dan mengapa perusahaan teknologi terbesar Amerika dengan bangga bermitra dengan militer Israel dalam pengembangan sistem mematikan ini?

Israel tidak hanya menggunakan satu, tetapi beberapa sistem AI yang saling terintegrasi dalam operasi militernya. Selain "The Gospel" yang bertugas mengidentifikasi target bangunan, Israel juga menggunakan "Alchemist" yang mengirimkan peringatan real-time untuk "gerakan mencurigakan" dan "Depth of Wisdom" untuk memetakan jaringan terowongan Gaza. Kedua program ini dilaporkan masih digunakan dalam ofensif terkini.

Yang lebih mengkhawatirkan adalah "Lavender"—sistem AI yang secara efektif menghasilkan daftar pembunuhan warga Palestina. AI ini menghitung skor persentase untuk seberapa besar kemungkinan seorang Palestina adalah anggota kelompok militan. Jika skornya tinggi, orang tersebut menjadi target serangan rudal. Menurut laporan dari majalah Israel +972, tentara "hampir sepenuhnya mengandalkan" sistem ini setidaknya di minggu-minggu awal perang, dengan pengetahuan penuh bahwa sistem tersebut salah mengidentifikasi warga sipil sebagai teroris.

Proses persetujuan yang seharusnya dilakukan oleh perwira hanya memeriksa apakah target tersebut laki-laki atau bukan. Sistem lain yang terungkap adalah "Where's Daddy?" yang dibangun untuk menyerang target di dalam rumah keluarga mereka. "Lebih mudah untuk membombardir rumah keluarga. Sistem ini dibangun untuk mencari mereka dalam situasi seperti ini," kata seorang perwira intelijen Israel yang anonim kepada +972.

Penggunaan AI Israel tidak terbatas pada operasi militer langsung. Sistem pengawasan massal yang canggih juga diimplementasikan dengan bantuan teknologi Amerika. Yossi Sariel, yang memimpin unit pengawasan IDF hingga akhir tahun lalu, menghabiskan tahun sabatikalnya berlatih di institusi pertahanan yang didanai Pentagon di Washington, D.C., di mana ia berbagi visi radikal tentang AI di medan perang.

Laporan Guardian dari Agustus menemukan bahwa Israel menyimpan dan memproses panggilan telepon seluler yang dibuat oleh warga Palestina melalui Microsoft Azure Cloud Platform. Setelah berbulan-bulan protes, Microsoft mengumumkan bulan lalu bahwa mereka memutus akses ke beberapa layanan yang diberikan kepada unit IDF setelah tinjauan internal menemukan bukti yang mendukung beberapa klaim dalam artikel Guardian.

Yang menarik, CEO Microsoft Satya Nadella bertemu dengan kepala operasi spionase IDF Sariel pada akhir 2021 untuk membahas hosting materi intelijen di cloud Microsoft. "Sebagian besar kontrak Microsoft dengan militer Israel tetap utuh," kata Hossam Nasr, seorang organisator dengan No Azure for Apartheid dan mantan pekerja Microsoft.

Sulit untuk memetakan secara tepat perusahaan Amerika mana yang telah menyediakan teknologi yang digunakan untuk menargetkan dan membunuh warga Palestina. Namun, yang jelas adalah bahwa hampir semua perusahaan teknologi besar Amerika dengan bangga bermitra dengan tentara Israel.

Microsoft mendapat banyak perhatian dari aktivis baru-baru ini, tetapi Google, Amazon, dan Palantir dianggap sebagai beberapa vendor pihak ketiga Amerika terkemuka lainnya untuk IDF. Karyawan Google dan Amazon telah memprotes selama bertahun-tahun atas "Project Nimbus"—kontrak $1,2 miliar yang ditandatangani pada 2021 yang menugaskan raksasa teknologi Amerika untuk menyediakan komputasi awan dan layanan AI kepada militer Israel.

Amazon menangguhkan seorang insinyur bulan lalu karena mengirim email kepada CEO Andy Jassy tentang proyek tersebut dan berbicara menentangnya di saluran Slack perusahaan. Meskipun Google juga menekan kritik karyawan, ketika kesepakatan itu ditandatangani pada 2021, pejabat Google sendiri mengungkapkan kekhawatiran bahwa layanan cloud dapat digunakan untuk pelanggaran hak asasi manusia terhadap warga Palestina, menurut laporan New York Times 2024.

Palantir, yang menawarkan perangkat lunak seperti Artificial Intelligence Platform (AIP) yang menganalisis target musuh dan mengusulkan rencana pertempuran, menyetujui kemitraan strategis dengan IDF untuk memasok teknologinya ke "situasi saat ini di Israel," kata wakil presiden eksekutif Palantir Josh Harris kepada Bloomberg tahun lalu.

Proliferasi video dan gambar yang dihasilkan AI telah melakukan lebih dari sekadar membanjiri internet dengan konten berkualitas rendah. Hal ini juga menyebabkan kebingungan luas bagi pengguna media sosial tentang apa yang nyata dan apa yang palsu. Kebingungan ini dapat dimengerti, tetapi telah diambil alih untuk mendiskreditkan suara kaum tertindas.

Video dan foto yang keluar dari Gaza disebut di Israel sebagai "Gazawood", dengan banyak yang mengklaim bahwa gambar-gambar tersebut dipentaskan atau sepenuhnya dihasilkan AI. Karena Israel tidak mengizinkan jurnalis asing masuk ke Gaza dan tidak hanya mendiskreditkan tetapi juga secara tidak proporsional menargetkan jurnalis di enclave tersebut dalam serangan udara, kebenaran menjadi lebih sulit untuk divalidasi.

Dalam satu contoh, Saeed Ismail, seorang warga Gaza berusia 22 tahun yang nyata yang telah mengumpulkan uang secara online untuk memberi makan keluarganya, dituduh dihasilkan AI karena kata-kata yang salah dieja pada selimutnya yang ditampilkan dalam satu video. Gizmodo memverifikasi keberadaannya pada bulan Juli.

Platform media sosial juga tidak luput dari kontroversi. TikTok dikritik karena menampilkan rekomendasi produk dalam video perang Gaza, menunjukkan betapa tidak sensitifnya algoritma terhadap konteks humaniter.

Perusahaan AI ingin terlibat dalam medan perang. Ada permintaan besar oleh militer di seluruh dunia untuk sistem AI yang disediakan oleh raksasa teknologi. Amerika menuangkan jutaan dolar untuk mengintegrasikan sistem AI ke dalam pengambilan keputusan militer, seperti mengidentifikasi target serangan sebagai bagian dari program Thunderforge-nya.

Pemimpin China Xi Jinping juga dilaporkan menjadikan kecerdasan buatan militer sebagai prioritas strategis utama. Karena teknologi ini masih dalam fase pertumbuhan, zona perang aktif dan warga sipil yang tinggal di sana menjadi subjek uji coba untuk mesin pembunuh bertenaga AI.

Mirip dengan Gaza, Ukraina juga digambarkan sebagai tempat uji coba real-time untuk teknologi militer bertenaga AI. Dalam kasus itu, meskipun pemerintah Ukraina sendiri juga mendukungnya. Pada musim panas, militer Ukraina mengumumkan "Test in Ukraine," sebuah skema yang mengundang perusahaan senjata asing untuk menguji senjata terbaru mereka di garis depan perang Rusia-Ukraina.

Di atas kesepakatan melimpahnya dengan tentara Israel, Palantir juga sangat populer dengan Departemen Pertahanan Amerika. Perusahaan tersebut menandatangani kontrak perangkat lunak dan data senilai $10 miliar dengan Angkatan Darat AS pada bulan Agustus.

Kita telah melihat perusahaan teknologi mundur dari proyek militer, seperti Project Maven, di masa lalu ketika mereka merasakan angin budaya bertiup melawan mereka. Untuk saat ini, pemerintahan Trump ingin orang Amerika memimpin jalan di medan perang AI. Sementara kritik eksternal dan tekanan internal dari karyawan masih ada di perusahaan AI terbesar, mereka saat ini memiliki argumen yang masuk akal bahwa inilah yang dipilih oleh rakyat Amerika. Sampai itu berubah, demam emas untuk dana militer akan bertahan.

Pertanyaannya sekarang adalah: sampai kapan kita akan membiarkan teknologi yang seharusnya memajukan kemanusiaan justru menjadi alat penghancurnya? Dan apakah kita siap menghadapi masa depan di mana keputusan hidup dan mati diserahkan sepenuhnya kepada mesin?