Mountain View, CA | EGINDO.co – Model Gemini milik Google mengakses internet dan meretas perusahaan lain saat pengujian kemampuan keamanan sibernya; ini merupakan contoh pertama yang diketahui di mana sistem AI perusahaan tersebut melakukan tindakan semacam itu secara otonom.
Peretasan tersebut terjadi pada bulan Mei dalam sebuah uji keamanan siber yang dilakukan oleh Irregular, perusahaan independen yang melakukan evaluasi keamanan siber.
Dalam evaluasi pengujian standar, Gemini menemukan informasi publik secara daring dan menebak kredensial untuk mengakses tiga situs web yang dianggapnya termasuk dalam cakupan pengujian, ujar Heather Adkins, wakil presiden rekayasa keamanan Google, dalam sebuah pernyataan.
“Kami memastikan ketiga entitas tersebut diberi tahu, dan kami bekerja sama dengan mitra pelatihan kami terkait perubahan yang kini telah mereka terapkan pada proses pengujian mereka,” kata Adkins. “Peristiwa ini menyoroti pentingnya melatih model AI yang canggih agar bertindak secara bertanggung jawab.”
Seorang juru bicara Irregular mengatakan bahwa insiden tersebut melibatkan masalah yang sama dengan yang memengaruhi laboratorium AI lainnya, dan semua laboratorium terkait telah diberi tahu pada akhir Juli. “Semua masalah yang diketahui di pihak kami telah diperbaiki dan diselesaikan beberapa minggu yang lalu,” kata juru bicara tersebut.
Insiden serupa yang terkait dengan Irregular juga diungkapkan oleh Meta, Anthropic, dan OpenAI. Meta menyatakan pada bulan Agustus bahwa insiden tersebut tidak melibatkan *sandbox escape* (keluar dari lingkungan isolasi sistem) ataupun serangan siber yang canggih, sementara Irregular menyatakan sedang menyusun praktik terbaik untuk melakukan evaluasi keamanan siber AI secara aman.
Insiden-insiden ini memunculkan pertanyaan mengenai langkah-langkah pengamanan yang diperlukan seiring dengan semakin besarnya otonomi serta akses agen AI terhadap internet dan sistem komputer.
Dalam salah satu kasus, model Gemini menebak kata sandi hingga berhasil mengakses sistem yang terlindungi. Pada dua kasus lainnya, model tersebut menemukan kredensial di repositori publik yang memungkinkannya mengakses sistem yang terlindungi, menurut Wall Street Journal, yang pertama kali melaporkan berita ini pada hari Jumat.
Adkins mengatakan bahwa dalam ketiga kejadian tersebut, model itu menghentikan aktivitas peretasannya.
Sumber : CNA/SL