Jakarta – Sekitar 60 negara termasuk Amerika Serikat mendukung “cetak biru tindakan” untuk mengatur penggunaan kecerdasan buatan (AI) yang bertanggung jawab dalam militer pada Selasa, 10 September 2024. Namun, Cina termasuk di antara negara-negara yang tidak mendukung dokumen yang tidak mengikat secara hukum tersebut.
KTT AI yang Bertanggung Jawab dalam Domain Militer (REAIM) di Seoul, yang merupakan pertemuan kedua dari jenisnya, menyusul pertemuan yang diadakan di Den Haag tahun lalu. Pada saat itu, sekitar 60 negara termasuk Cina mendukung “seruan untuk bertindak” yang sederhana tanpa komitmen hukum.
Perwakilan pemerintah mengatakan bahwa “cetak biru” tahun ini lebih berorientasi pada tindakan, sesuai dengan diskusi lanjutan dan perkembangan militer seperti drone berkemampuan AI yang diluncurkan oleh Ukraina, yang juga mendukung dokumen tersebut.
“Kami membuat langkah konkret lebih lanjut,” kata Menteri Pertahanan Belanda Ruben Brekelmans kepada Reuters. “Tahun lalu … lebih banyak tentang menciptakan pemahaman bersama, sekarang kami lebih mengarah ke tindakan.”
Hal ini termasuk menjabarkan penilaian risiko seperti apa yang harus dilakukan, kondisi-kondisi penting seperti kontrol manusia, dan bagaimana langkah-langkah membangun kepercayaan dapat diambil untuk mengelola risiko, ujarnya.
Di antara rincian yang ditambahkan dalam dokumen itu adalah kebutuhan untuk mencegah AI digunakan untuk menyebarkan senjata pemusnah massal (WMD) oleh para pelaku termasuk kelompok teroris, dan pentingnya menjaga kontrol dan keterlibatan manusia dalam penggunaan senjata nuklir.
Ada banyak inisiatif lain dalam masalah ini, seperti deklarasi pemerintah AS tentang penggunaan AI yang bertanggung jawab dalam militer yang diluncurkan tahun lalu.
KTT Seoul – yang diselenggarakan bersama oleh Belanda, Singapura, Kenya, dan Inggris – bertujuan untuk memastikan bahwa diskusi antar pemangku kepentingan tidak didominasi oleh satu negara atau entitas.
Namun, Cina termasuk di antara sekitar 30 negara yang mengirimkan perwakilan pemerintah ke KTT tersebut tetapi tidak mendukung dokumen tersebut, yang menggambarkan perbedaan pandangan yang mencolok di antara para pemangku kepentingan.
“Kita juga harus realistis bahwa kita tidak akan pernah bisa membuat seluruh dunia ikut serta,” kata Menteri Pertahanan Brekelmans.
“Bagaimana kita menghadapi kenyataan bahwa tidak semua orang mematuhinya? … Itu adalah dilema yang rumit yang juga harus kita bahas,” tambahnya.
Tempat dan waktu untuk pertemuan puncak berikutnya masih didiskusikan, kata para pejabat.
Pada Sidang Umum PBB di Oktober, pejabat Korea Selatan mengatakan bahwa mereka berencana untuk mengangkat diskusi tentang AI di ranah militer berdasarkan ‘cetak biru’ itu.
Tempat dan waktu untuk pertemuan puncak berikutnya masih didiskusikan, kata para pejabat.
Pada Sidang Umum PBB pada bulan Oktober, pejabat Korea Selatan mengatakan bahwa mereka berencana untuk mengangkat diskusi tentang AI dalam ranah militer berdasarkan ‘cetak biru’.
Giacomo Persi Paoli, kepala Program Keamanan dan Teknologi di Institut Penelitian Perlucutan Senjata Perserikatan Bangsa-Bangsa (UNIDIR), mengatakan bahwa negara-negara harus terlibat dengan negara lain di sela-sela KTT untuk memitigasi risiko apa pun.
“Cetak biru ini merupakan langkah maju yang bertahap,” katanya. “Dengan melangkah terlalu cepat, terlalu cepat, ada risiko yang sangat tinggi bahwa banyak negara tidak ingin terlibat.”
Penggunaan AI oleh Israel dalam Perang Gaza
Sementara itu, Israel telah menggunakan AI dalam serangan-serangannya di Gaza. Human Rights Watch (HRW) mengutuk penggunaan perangkat digital yang ekstensif oleh tentara Israel dalam perang Gaza, dengan mengatakan bahwa tentara Israel menggunakan “data yang salah dan perkiraan yang tidak tepat untuk menginformasikan tindakan militer”.
Organisasi yang berbasis di New York ini mengatakan bahwa teknologi pengawasan, kecerdasan buatan (artificial intelligence/AI), dan alat digital lainnya membantu menentukan siapa atau apa yang harus diserang di Gaza dan kapan, namun mengandalkan data yang dikumpulkan melalui pengawasan sistematis Israel terhadap penduduk Gaza “dengan cara yang tidak sesuai dengan hukum hak asasi manusia internasional”.
“Penggunaan alat-alat ini oleh militer Israel, alih-alih membantu memberikan penargetan yang lebih akurat dan meminimalisir hilangnya nyawa dan harta benda warga sipil, justru dapat memperburuk risiko bagi warga sipil dan menimbulkan masalah etika, hukum, dan kemanusiaan yang serius,” kata organisasi ini.
Empat alat ini, yang diklaim “Israel” dimaksudkan untuk menilai keberadaan warga sipil, memandu waktu serangan, dan membedakan antara warga sipil dan kombatan, meningkatkan risiko bahaya bagi warga sipil.
Yang pertama adalah alat pemantau evakuasi berdasarkan pelacakan ponsel untuk memantau evakuasi warga Palestina dari Gaza utara. Menurut HRW, alat ini mungkin terganggu karena kerusakan infrastruktur komunikasi Gaza akibat serangan Israel yang membabi buta, sehingga kurang dapat diandalkan untuk pengambilan keputusan militer.
Gospel adalah alat kedua yang menghasilkan daftar bangunan dan struktur yang akan ditargetkan.
Lavender, alat ketiga, memberikan peringkat kepada individu untuk menilai seberapa besar keterlibatan mereka dalam gerakan Perlawanan Palestina.
Where’s Daddy? adalah alat yang mengidentifikasi ketika seorang target berada di lokasi tertentu, sering kali di rumah keluarga mereka, untuk potensi serangan.
