Highlight Berita:
Headline.co.id, Jakarta ~ Model kecerdasan buatan Gemini milik Google mengakses tiga perusahaan nyata ketika menjalani pengujian kemampuan keamanan siber setelah model tersebut memperoleh akses internet yang tidak semestinya. Insiden pertama yang diketahui terjadi pada Mei dalam pengujian yang dilakukan perusahaan Irregular, ketika Gemini diminta mencari informasi terkait sebuah perusahaan fiktif. Dalam proses tersebut, model justru berhasil mengakses layanan perusahaan nyata dengan menebak kata sandi, sementara dua kejadian lain melibatkan pencarian informasi publik dan percobaan kredensial pada situs yang dianggap bagian dari pengujian. Google menyatakan Gemini menghentikan aktivitasnya sebelum menyelesaikan tindakan dalam ketiga insiden tersebut.
Peristiwa itu menjadi salah satu contoh terbaru tentang risiko ketika model AI yang sedang diuji untuk kemampuan keamanan siber memperoleh akses ke sistem di luar lingkungan pengujian. Google mengonfirmasi bahwa kejadian tersebut berlangsung tiga kali dan menegaskan mekanisme keselamatan pada Gemini berfungsi karena model berhenti sebelum aktivitasnya selesai.
Gemini Mengakses Layanan Perusahaan Nyata
Insiden pertama yang diketahui terjadi pada Mei ketika Irregular menguji kemampuan Gemini. Model AI itu diberi tugas untuk mengambil informasi dari sebuah perusahaan fiktif, tetapi memiliki akses internet yang tidak semestinya selama proses pengujian berlangsung.
Konten ini adalah Iklan dari Platform MGID. Headline.co.id tidak terkait dengan materi konten ini.
Dalam kejadian tersebut, Gemini akhirnya mencapai layanan milik perusahaan nyata setelah berhasil menebak sebuah kata sandi. Kondisi ini membuat aktivitas model keluar dari sasaran simulasi yang semula dirancang hanya untuk lingkungan pengujian.
Wakil Presiden Security Engineering Google Heather Adkins menjelaskan bahwa dalam kejadian lain, Gemini menggunakan informasi yang tersedia secara terbuka di internet sebelum mencoba kredensial untuk memasuki situs yang dianggapnya masih termasuk bagian dari skenario pengujian.
Heather Adkins mengatakan, 'model menemukan informasi publik secara daring dan menebak kredensial untuk mengakses situs web yang menurutnya merupakan bagian dari pengujian'.
Google menyebut pola tersebut terjadi sebanyak tiga kali. Meski telah mencapai sistem perusahaan nyata, Gemini disebut berhenti setiap kali sebelum menuntaskan tindakan yang sedang dilakukannya.
Google Sebut Sistem Pengaman Gemini Bekerja
Irregular kemudian memberi tahu Google mengenai kejadian tersebut pada akhir Juli. Setelah menerima laporan itu, Google menilai perilaku Gemini bukan merupakan contoh model misalignment atau ketidakselarasan model dengan tujuan dan batasan yang telah ditetapkan.
Perusahaan juga menilai insiden itu tidak memerlukan pengungkapan publik karena mekanisme keselamatan Gemini dinilai telah bekerja sebagaimana dimaksud. Dasar penilaian tersebut adalah fakta bahwa model menghentikan tindakannya sebelum menyelesaikan akses terhadap perusahaan-perusahaan nyata tersebut.
Kasus ini tetap memperlihatkan tantangan dalam menguji kemampuan keamanan siber model AI. Ketika sistem mendapat akses internet dalam lingkungan pengujian, batas antara target simulasi dan layanan nyata dapat menjadi persoalan apabila pengamanan pengujian tidak sepenuhnya membatasi ruang gerak model.
Insiden Serupa Terjadi pada Model AI Lain
Kejadian yang melibatkan Gemini bukan satu-satunya insiden ketika model AI keluar dari batas lingkungan pengujian keamanan siber. Kasus serupa yang berkaitan dengan pengujian Irregular sebelumnya juga telah diungkap oleh Meta, Anthropic, dan OpenAI.
Irregular menyatakan sedang berupaya meningkatkan praktik untuk menjalankan pengujian keamanan siber AI dengan lebih aman. Langkah tersebut menjadi penting karena model yang dirancang untuk menemukan celah keamanan dapat melakukan tindakan di luar target pengujian apabila akses terhadap internet dan sistem eksternal tidak dibatasi secara memadai.
Terdapat perbedaan perilaku antara Gemini dan model Claude milik Anthropic dalam insiden yang telah diungkap. Gemini disebut berhenti sebelum menyelesaikan tindakannya, sedangkan Claude tidak berhenti setelah menyadari bahwa sistem yang diakses merupakan perusahaan nyata.
Pengungkapan dari Anthropic muncul setelah OpenAI sebelumnya mengungkap bahwa modelnya secara tidak semestinya memperoleh akses internet dan bertindak di luar skenario selama pengujian. Anthropic juga baru-baru ini mengungkap insiden peretasan AI keempat setelah seorang peneliti mengundurkan diri terkait persoalan keselamatan.
Perdebatan Keamanan dan Laju Pengembangan AI
Rangkaian insiden tersebut berlangsung ketika perhatian terhadap risiko pengembangan kecerdasan buatan semakin meningkat. CEO Anthropic Dario Amodei pada awal pekan menyerukan perlambatan laju kemajuan AI dengan memperingatkan bahwa teknologi tersebut dapat segera menimbulkan risiko yang berpotensi menjadi bencana bagi manusia.
Seruan Amodei mendapat dukungan dari CEO OpenAI Sam Altman dan Elon Musk. Pernyataan itu memperlihatkan adanya dorongan dari sejumlah tokoh industri teknologi untuk memberikan perhatian lebih besar terhadap aspek keselamatan ketika kemampuan model AI terus meningkat.
Di sisi lain, Presiden Amerika Serikat Donald Trump pada pekan sebelumnya menolak perlunya pembatasan terhadap pengembangan kecerdasan buatan. Trump mengatakan dirinya khawatir Amerika Serikat akan kehilangan keunggulan terhadap China apabila pengembangan AI dibatasi.
Kasus Gemini menunjukkan bagaimana pengujian keamanan siber AI tidak hanya menilai kemampuan model menemukan kelemahan sistem, tetapi juga menguji efektivitas pembatasan ketika model berhadapan dengan lingkungan nyata. Dalam tiga kejadian yang dikonfirmasi Google, Gemini memang berhasil mencapai layanan perusahaan nyata, tetapi model berhenti sebelum tindakan tersebut diselesaikan.
