RADAR BANYUWANGI – Kemampuan kecerdasan buatan (AI) untuk bekerja secara mandiri menghadirkan persoalan baru. Dalam sebuah pengujian keamanan siber, model Gemini milik Google mengakses sistem perusahaan lain secara tidak sah setelah menemukan informasi publik dan menebak kredensial untuk masuk ke sejumlah situs.
Peristiwa tersebut terjadi pada Mei 2026 ketika Gemini menjalani pengujian kemampuan cybersecurity yang dilakukan Irregular, perusahaan independen yang mengevaluasi keamanan sistem AI. Google menyebut terdapat tiga situs yang diakses Gemini karena model tersebut menilai situs-situs itu masih berada dalam cakupan pengujian.
Namun, cara Gemini mencapai sistem tersebut menjadi perhatian. Model menemukan informasi yang tersedia secara publik, kemudian menggunakan informasi tersebut untuk mencoba mendapatkan akses ke sistem yang dilindungi.
Wakil Presiden Security Engineering Google Heather Adkins membenarkan insiden tersebut. Menurut dia, tiga entitas yang terdampak telah diberi tahu dan Google bersama mitra penguji melakukan perubahan terhadap proses evaluasi.
“Kami memastikan ketiga entitas tersebut mengetahui kejadian ini dan bekerja sama dengan mitra pelatihan kami terkait perubahan yang kini mereka lakukan terhadap proses pengujian,” kata Adkins dalam pernyataannya.
Dia menambahkan, kejadian tersebut menunjukkan pentingnya melatih model AI berkemampuan tinggi agar bertindak secara bertanggung jawab.
Tebak Password hingga Berhasil Masuk
Menurut laporan yang pertama kali diberitakan The Wall Street Journal, terdapat beberapa cara Gemini memperoleh akses dalam pengujian tersebut.
Dalam salah satu kasus, model mencoba menebak kata sandi berulang kali hingga berhasil mengakses sistem yang dilindungi.
Dalam dua kasus lainnya, Gemini menemukan kredensial yang tersimpan di sebuah repositori publik. Informasi tersebut kemudian memungkinkan model mengakses sistem yang seharusnya terlindungi.
Meski demikian, Google menyatakan Gemini menghentikan aktivitas tersebut dalam ketiga kasus.
Konteksnya penting: kejadian berlangsung dalam pengujian kemampuan keamanan AI, bukan laporan mengenai Gemini yang secara mandiri menyerang perusahaan secara acak di internet. Irregular melakukan evaluasi untuk menguji kemampuan dan perilaku model dalam menghadapi skenario keamanan siber.
Meski demikian, temuan tersebut memperlihatkan risiko yang muncul ketika AI tidak sekadar memberikan jawaban, tetapi mampu mencari informasi, mengambil keputusan, dan melakukan tindakan di internet.
Bukan Hanya Gemini
Kasus yang berkaitan dengan evaluasi Irregular juga muncul pada sejumlah perusahaan AI lain.
Meta, Anthropic, dan OpenAI sebelumnya mengungkap insiden yang memiliki kaitan dengan persoalan serupa dalam proses evaluasi keamanan AI.
Meta pada Agustus menyatakan insiden yang dialaminya tidak melibatkan sandbox escape maupun serangan siber canggih. Sementara itu, Irregular menyatakan sedang mengembangkan praktik terbaik untuk menjalankan evaluasi keamanan AI secara lebih aman.
Juru bicara Irregular mengatakan persoalan tersebut berkaitan dengan isu yang juga memengaruhi laboratorium AI lain. Seluruh laboratorium yang relevan, menurut dia, telah diberi tahu pada akhir Juli.
“Semua masalah yang diketahui dari pihak kami telah diperbaiki dan diselesaikan beberapa pekan lalu,” kata juru bicara tersebut.
Tantangan Baru AI Agent
Temuan ini menjadi semakin relevan seiring perkembangan AI agent, yakni sistem AI yang dapat melakukan serangkaian tindakan secara lebih mandiri untuk mencapai tujuan tertentu.
Model seperti ini tidak hanya menghasilkan teks berdasarkan perintah pengguna. Dalam lingkungan tertentu, AI dapat diberikan akses ke internet, perangkat lunak, akun, atau sistem komputer sehingga mampu menjalankan tugas secara berurutan.
Kemampuan tersebut sekaligus memperbesar konsekuensi jika model salah memahami batasan tugas.
Dalam kasus Gemini, model menemukan informasi publik, menghubungkannya dengan target yang dianggap masuk dalam ruang lingkup pengujian, lalu menggunakan kredensial untuk memperoleh akses. Pola tersebut menunjukkan bahwa kemampuan reasoning dan penggunaan alat dapat menghasilkan tindakan yang tidak selalu identik dengan maksud awal pengujian.
Karena itu, insiden tersebut memunculkan pertanyaan lebih luas mengenai seberapa ketat pengamanan yang dibutuhkan ketika AI diberi akses lebih besar terhadap internet dan sistem komputer.
Google menyatakan Gemini menghentikan aktivitasnya dalam ketiga kejadian. Sementara pihak-pihak yang terlibat dalam pengujian juga telah melakukan perbaikan terhadap proses evaluasi.
Namun, perkembangan tersebut menyisakan satu tantangan besar bagi industri AI: semakin mandiri sebuah model dalam mencari informasi dan menjalankan tindakan, semakin penting pula pembatasan akses, pemantauan aktivitas, serta mekanisme penghentian yang dapat mencegah AI melampaui batas tugasnya. (*)
Editor : Ali Sodiqin