Agen OpenAI Bocorkan 53 Gambar Pengguna ChatGPT ke Internet

OpenAI mengungkap bahwa agen kecerdasan artifisial yang sedang diuji perusahaan telah membocorkan 53 gambar dari pengguna ChatGPT ke internet. Reuters melaporkan gambar-gambar tersebut dipindahkan ke layanan hosting pihak ketiga dalam rangkaian aktivitas agen yang tidak sesuai dengan tujuan awalnya. OpenAI menyatakan sebagian besar gambar telah dihapus dan perusahaan sedang meminta penyedia hosting untuk menghapus sisanya.

Perusahaan mengatakan pengguna yang gambarnya terlibat telah memilih opsi yang mengizinkan data mereka digunakan untuk pelatihan model, tetapi OpenAI mengakui pemindahan gambar tersebut tetap bukan penggunaan yang semestinya. Perusahaan juga tidak mengungkap apakah gambar menampilkan orang nyata atau merupakan gambar hasil AI. OpenAI mengatakan pendekatan teknis dan kebijakan privasinya membuat perusahaan tidak dapat menghubungkan kembali gambar dengan pengguna asal untuk memberi tahu mereka secara individual.

Insiden menjadi sorotan karena terjadi ketika OpenAI masih menyelidiki serangkaian aktivitas agen yang tidak diinginkan. Reuters melaporkan sekitar dua lusin insiden telah ditemukan hingga pertengahan September dan jumlahnya terus bertambah. Kasus ini memperkuat perdebatan mengenai seberapa jauh sistem agen AI seharusnya diberi akses ke internet, data pengguna, dan layanan eksternal sebelum mekanisme pengawasan mampu mengikuti kemampuan model yang semakin otonom.