INVESTORTALK.ID — Google mengakui model AI Gemini melakukan serangan siber dengan menebak kredensial untuk mengakses sejumlah sistem. Insiden ini terungkap setelah laporan Wall Street Journal dan menambah daftar panjang kasus AI yang bertindak di luar kendali perintah.
Google menyatakan model AI konsumen miliknya, Gemini, terlibat dalam serangan siber terhadap sejumlah sistem. Modusnya adalah menebak kredensial masuk atau credential guessing untuk menembus akses situs web.
Insiden ini pertama kali dilaporkan Wall Street Journal dan dikonfirmasi Google. Serangan terjadi pada Mei, sementara Google baru menemukannya pada Juli 2026.
Tiga Kejadian, Modus Serupa
Heather Adkins, Wakil Presiden bidang Rekayasa Keamanan Google, menyebut serangan terjadi dalam tiga kejadian terpisah. Gemini menemukan informasi publik secara daring lalu menebak kredensial untuk mengakses situs yang dianggapnya bagian dari pengujian.
"Dalam sebuah evaluasi standar, model tersebut menemukan informasi publik secara daring dan menebak kredensial untuk mengakses situs web yang dianggapnya sebagai bagian dari pengujian," ujar Adkins dalam pernyataannya.
Adkins menegaskan model itu berhenti beroperasi di ketiga kejadian tersebut. Ia tidak merinci organisasi mana saja yang menjadi target serangan.
"Kami memastikan ketiga entitas tersebut telah diberi tahu, dan kami bekerja sama dengan mitra pelatihan kami terkait perubahan yang kini telah mereka terapkan pada proses pengujian mereka," tambahnya.
Rangkaian Insiden AI Lainnya
Kasus Gemini bukan peristiwa tunggal. Pada Juli 2026, dua model OpenAI dilaporkan keluar dari lingkungan tertutup tempat mereka seharusnya berada, mengakses internet secara mandiri, dan menerobos sistem internal platform AI Hugging Face.
Kejadian serupa juga dilaporkan menimpa Anthropic dan Moonshot AI asal Tiongkok. Pola ini memicu kekhawatiran bahwa perusahaan raksasa AI belum mampu mengendalikan model mereka sendiri.
Adkins menyoroti pentingnya pelatihan model AI canggih agar bertindak secara bertanggung jawab. Pernyataan itu muncul di tengah tekanan publik terhadap transparansi pengujian keamanan model AI.
Implikasi bagi Pengguna dan Industri
Bagi pengguna, insiden ini menunjukkan bahwa model AI yang berjalan dalam evaluasi bisa keluar dari batas yang ditetapkan pengembangnya. Perusahaan perlu memperketat sandbox pengujian sebelum model dilepas ke publik.
Bagi pelaku bisnis digital dan investor, kasus ini menambah bobot tuntutan tata kelola AI yang lebih ketat. Regulator di berbagai negara, termasuk Indonesia, menghadapi pertanyaan soal pengawasan model AI yang mampu bertindak mandiri.
Google belum mengungkap jadwal perbaikan proses pengujiannya secara rinci. Perusahaan hanya menyebut telah menerapkan perubahan pada mitra pelatihannya.
