Raja Charles Peringatkan Pemimpin AI soal Risiko Eksistensial
Raja Charles III memperingatkan pemimpin Nvidia, DeepMind, OpenAI dan Anthropic bahwa AI membutuhkan pengamanan kuat sebelum teknologi disalahgunakan.
Raja Charles III mengumpulkan pemimpin perusahaan kecerdasan artifisial, pemerintah, dan tokoh masyarakat sipil di Dumfries House, Skotlandia, pada 17 September 2026. Pertemuan dihadiri perwakilan Nvidia, Google DeepMind, OpenAI, Anthropic, serta Menteri AI Inggris. Charles menekankan perlunya pengamanan yang memadai ketika kemampuan AI berkembang semakin cepat dan meminta para pengembang mempertimbangkan dampaknya terhadap generasi mendatang.
Dalam pidatonya, Charles menilai AI memiliki potensi besar untuk meningkatkan kualitas hidup, termasuk dalam ilmu hayati dan kedokteran. Namun ia juga memperingatkan bahwa teknologi dapat menimbulkan bahaya serius jika jatuh ke tangan yang salah. CEO Nvidia Jensen Huang mengatakan pengembang harus membangun AI dengan optimisme yang bertanggung jawab dan melakukan pengujian ketat sebelum merilis sistem. Menurut Reuters, Huang menilai produk yang belum siap seharusnya ditahan.
The Royal Family menyatakan diskusi turut mengeksplorasi kemungkinan prinsip bersama untuk penggunaan AI di masa depan. Pertemuan tersebut bukan pengumuman regulasi baru dan tidak menghasilkan larangan tertentu terhadap pengembangan AI. Namun kehadiran perusahaan teknologi terkemuka menunjukkan isu keselamatan AI semakin meluas dari komunitas riset ke pemerintahan dan institusi publik, terutama ketika sistem otonom memperoleh kemampuan yang semakin kompleks.