Ancaman keamanan siber kembali mengintai teknologi kecerdasan buatan setelah para peneliti menemukan celah kerentanan serius pada agen AI populer. Berdasarkan pantauan redaksi, serangan injeksi prompt melalui email kini menjadi salah satu momok menakutkan bagi privasi dan integritas data pengguna.
// RELATED STORIES
Suka dengan artikel ini?
Dapatkan lebih banyak informasi teknologi menarik dengan berlangganan newsletter kami. Gratis!
Subscribe Sekarang →Serangan prompt injection bukanlah hal baru di dunia teknologi, di mana kecerdasan buatan sering kali kesulitan membedakan antara instruksi pengguna yang sah dan data mentah yang harus dianalisis. Ketika sebuah agen AI dihubungkan dengan layanan pihak ketiga seperti email atau kalender, risiko keamanan ini meningkat secara drastis.
Berdasarkan laporan terbaru, para peneliti keamanan dari Salt Labs berhasil menemukan celah untuk melewati lapisan pengaman pada agen AI Manus menggunakan metode pengaburan kode yang tidak biasa. "Eksploitasi ini membuktikan bahwa konten email yang tidak tepercaya dapat diubah menjadi kode tereksekusi di lingkungan sistem," ungkap para peneliti.
Menurut pengamatan tim redaksi, celah tersebut memungkinkan kode tersembunyi dijalankan sebelum sistem keamanan menyadari potensi ancaman secara penuh, sehingga peringatan baru muncul setelah eksekusi berbahaya terjadi. Meskipun pengembang telah memperbaiki masalah kerentanan ini melalui program bug bounty, para ahli mengingatkan bahwa ancaman serupa masih bisa terulang di masa depan.
Para pakar keamanan siber menyimpulkan bahwa mekanisme pengamanan yang hanya memeriksa prompt dan perilaku model saja belum cukup untuk melindungi sistem secara menyeluruh. Pengamanan yang ketat harus diperluas hingga mencakup seluruh tindakan agen pada perangkat, API, serta sistem yang dapat diaksesnya.