Pakar AS-China Usulkan Pengamanan AI Mirip Aturan Senjata Nuklir

Pakar keamanan dari Amerika Serikat dan China mengusulkan serangkaian pengamanan untuk mencegah kecerdasan artifisial memicu eskalasi militer yang tidak disengaja. Rekomendasi tersebut mencakup garis merah terhadap penggunaan AI pada sistem komando nuklir, kewajiban kendali manusia untuk keputusan serangan siber strategis, serta pembentukan saluran komunikasi khusus jika terjadi insiden yang melibatkan sistem AI otonom.

Usulan berasal dari peserta dialog Track II mengenai AI dan keamanan nasional yang diselenggarakan Brookings Institution bersama Center for International Security and Strategy Universitas Tsinghua. Para peneliti menilai sistem AI yang salah membaca situasi, bertindak di luar instruksi, atau mengalami kompromi keamanan dapat menciptakan kondisi di mana Washington atau Beijing hanya memiliki waktu sangat singkat untuk menentukan apakah sebuah tindakan merupakan serangan yang disengaja.

Melanie Sisson dari Brookings mengusulkan agar manusia tetap menjadi satu-satunya pihak yang berwenang memulai serangan siber berbasis AI terhadap sistem komando, kendali, dan komunikasi nuklir lawan. Tianjiao Jiang dari Fudan University juga mengusulkan larangan AI mengambil keputusan mandiri untuk menggunakan senjata nuklir, serta perlindungan terhadap infrastruktur penting seperti energi, keuangan, dan kesehatan.

Para pakar turut mengusulkan hotline khusus insiden AI antara kedua negara agar operasi otomatis yang tidak disengaja dapat dijelaskan sebelum dianggap sebagai serangan negara. Hingga laporan terbaru diterbitkan, pemerintah AS maupun China belum mengadopsi proposal itu secara resmi. Rekomendasi tersebut muncul menjelang pembicaraan tingkat pemerintah mengenai AI dan memperlihatkan bahwa persaingan AI kini mulai menyentuh isu stabilitas strategis dan pengendalian konflik.