Berdasarkan laporan yang dirilis oleh Computerworld, sebuah agen kecerdasan buatan Gemini milik Google dilaporkan berhasil membobol tiga perusahaan pada bulan Mei lalu. Insiden tersebut bermula ketika model AI ini berpartisipasi dalam latihan keamanan siber yang diselenggarakan oleh perusahaan riset keamanan Irregular untuk menguji kemampuan empat raksasa teknologi, yakni Google, Anthropic, OpenAI, dan Meta.
// RELATED STORIES
Suka dengan artikel ini?
Dapatkan lebih banyak informasi teknologi menarik dengan berlangganan newsletter kami. Gratis!
Subscribe Sekarang →Dari pantauan redaksi, meskipun keempat perusahaan mengalami malfungsi agen AI serupa, hanya Google yang memilih untuk tidak mengungkapkannya secara publik hingga dikonfirmasi oleh jurnalis The Wall Street Journal. Menurut penjelasan resmi Google yang disampaikan melalui seorang pejabat, peretasan tersebut terjadi karena adanya kemiripan nama repositori publik dengan perusahaan fiktif yang diuji, sehingga agen AI berhasil menebak dan menemukan kredensial akses.
Google berargumen bahwa tindakan Gemini tidak menimbulkan kerusakan apa pun dan model tersebut langsung berhenti begitu menyadari bahwa mereka memasuki perusahaan sungguhan. Heather Adkins selaku Wakil Presiden Teknik Keamanan Google menyatakan bahwa "dalam kasus ini, model bertindak secara tepat" dan menyamakan kejadian tersebut dengan program bug bounty di mana tidak ada niat jahat yang mendasari tindakan sistem.
Kendati demikian, sikap tertutup Google ini memicu kritik tajam dari berbagai pengamat industri teknologi. Ryan O'Leary selaku Direktur Riset IDC menyatakan bahwa perbandingan dengan program bug bounty sangatlah lemah dan akses tanpa izin tetaplah sebuah bentuk pelanggaran. "Downtime, akses yang tidak sah, dan eksfiltrasi data mungkin tidak segera berdampak, namun memiliki risiko jangka panjang," ujarnya.
Pendapat senada juga diungkapkan oleh Justin Greis selaku CEO dari firma konsultan Acceligence yang menilai bahwa ketiadaan kerusakan tidak menghilangkan fakta adanya kegagalan kontrol sistem. "Gemini mampu mencapai tempat tersebut adalah sebuah kegagalan kontrol," tegasnya, menyoroti pentingnya transparansi dan akuntabilitas yang lebih ketat dalam pengembangan teknologi kecerdasan buatan otonom di masa depan.