Maria Diaz/ZDNET
Kesimpulan utama ZDNET
Para peneliti menunjukkan cara meretas perangkat Google Home melalui Gemini. Google menambahkan pengamanan tambahan untuk Gemini sebagai respons. Memperbarui perangkat dengan patch keamanan terbaru adalah perlindungan terbaik.
Ide bahwa kecerdasan buatan (AI) bisa digunakan untuk mengendalikan rumah dan hidupmu dengan cara jahat adalah salah satu alasan utama mengapa banyak orang enggan mengadopsi teknologi baru ini—sangat menakutkan. Hampir sama menakutkannya dengan perangkat pintarmu diretas. Bagaimana jika saya bilang beberapa peneliti baru saja melakukan itu?
Juga: Mengapa alat keamanan berbasis AI adalah senjata rahasia melawan serangan masa depan
Peneliti keamanan siber dari berbagai lembaga menunjukkan kerentanan besar dalam model AI populer Google, Gemini. Mereka meluncurkan serangan injeksi perintah tidak langsung yang terkendali—alias promptware—untuk menipu Gemini agar mengontrol perangkat rumah pintar, seperti menyalakan pemanas dan membuka tirai. Ini adalah demonstrasi sistem AI yang menyebabkan aksi fisik di dunia nyata lewat pembajakan digital.
Bagaimana serangan itu bekerja
Sekelompok peneliti dari Tel Aviv University, Technion, dan SafeBreach membuat proyek bernama "Invitation is all you need." Mereka menyisipkan instruksi jahat dalam undangan Google Calendar, dan ketika pengguna meminta Gemini untuk "ringkasan kalender saya," asisten AI itu memicu aksi yang telah diprogram sebelumnya, termasuk mengontrol perangkat rumah pintar tanpa permintaan pengguna.
Proyek ini dinamai sebagai permainan kata dari makalah AI terkenal "Attention is all you need," dan memicu aksi seperti membuka tirai pintar, menyalakan pemanas, mengirim spam dan pesan ofensif, membocorkan email, memulai panggilan Zoom, dan mengunduh file.
Aksi yang sudah diprogram ini disisipkan menggunakan teknik injeksi perintah tidak langsung. Ini terjadi ketika instruksi jahat disembunyikan dalam perintah atau objek yang tampak tidak berbahaya—dalam kasus ini, undangan Google Calendar.
Bagaimana ini memengaruhimu
Perlu dicatat, meski dampaknya nyata, ini dilakukan sebagai eksperimen terkendali untuk menunjukkan kerentanan pada Gemini; bukan peretasan sungguhan. Ini cara untuk menunjukkan kepada Google bahwa hal ini bisa terjadi jika pelaku jahat memutuskan meluncurkan serangan semacam itu.
Juga: 8 gadget rumah pintar yang langsung meningkatkan rumahku (dan mengapa mereka berfungsi)
Sebagai respons, Google memperbarui pertahanannya dan menerapkan pengamanan lebih ketat untuk Gemini. Ini termasuk menyaring output, memerlukan konfirmasi eksplisit pengguna untuk aksi sensitif, dan deteksi berbasis AI terhadap perintah mencurigakan. Yang terakhir berpotensi bermasalah karena AI jauh dari sempurna, tapi ada hal yang bisa kamu lakukan untuk melindungi perangkatmu dari serangan siber.
Apa yang bisa kamu lakukan untuk melindungi perangkatmu
Meski serangan ini diluncurkan dengan Gemini dan Google Home, rekomendasi berikut adalah cara baik untuk melindungi diri dan perangkatmu dari pelaku jahat.
- Batasi izin dalam aplikasi rumah pintarmu. Jangan beri Gemini, Siri, atau asisten rumah pintar lain kendali atas perangkat sensitif kecuali benar-benar perlu. Misalnya, aku mengizinkan Alexa mengakses kamera tapi tidak mengizinkannya mengontrol kunci pintar.
- Perhatikan layanan yang terhubung dengan Gemini dan asisten suara lainnya. Semakin banyak perangkat dan aplikasi yang terhubung ke asisten AI-mu (seperti Gmail, kalender, dll.), semakin banyak titik masuk potensial bagi penyerang.
- Waspadai perilaku tak terduga dari perangkat dan asisten AI-mu. Jika ada yang terasa aneh, cabut izin dan laporkan.
Juga: Software antivirus terbaik: Favoritku, diurutkan, untuk keamanan perangkat pribadi
Sebagai aturan umum, selalu perbarui perangkat dan aplikasimu dengan pembaruan firmware terbaru. Ini memastikan kamu mendapatkan patch keamanan terbaru untuk menangkal serangan.Ingin lebih banyak cerita tentang AI? Daftar untuk Innovation, buletin mingguan kami.