Saat Amazon Web Services mengalami gangguan selama 13 jam pada bulan Desember, penyebabnya bukanlah seseorang yang tersandung kabel. Menurut laporan dari Financial Times, beberapa karyawan Amazon yang anonim menyatakan bahwa gangguan tersebut adalah kesalahan Kiro, asisten koding AI Amazon—meskipun Amazon dilaporkan menyalahkan human error atas situasi itu.
Berdasarkan keterangan yang diberikan kepada Financial Times, Kiro sedang beroperasi secara otonom ketika menemui suatu masalah. Ia memutuskan bahwa tindakan terbaik adalah “menghapus dan membuat ulang lingkungan” yang menyebabkan masalah. Menurut keterangan tersebut, hal itulah yang memicu gangguan yang digambarkan Amazon sebagai “kejadian yang sangat terbatas”, yang akhirnya melumpuhkan layanan di satu bagian daratan Tiongkok.
Dalam kondisi biasa, Kiro memerlukan persetujuan dua orang sebelum menerapkan perubahan yang diusulkannya. Namun dalam kasus ini, agen AI tersebut dikabarkan bekerja dengan seorang insinyur yang memiliki wewenang lebih luas daripada karyawan tingkat rendah, dan Kiro diperlakukan sebagai perpanjangan tangan operator. Alhasil, ia diberikan wewenang yang sama seperti manusia dan diizinkan untuk menerapkan perubahan tanpa persetujuan, yang berujung pada gangguan itu.
Rupanya, ini bukan pertama kalinya hal serupa terjadi. Menurut FT, setidaknya ini adalah insiden kedua di mana Kiro diberi kebebasan tambahan dan akhirnya menghasilkan kesalahan. Kejadian sebelumnya tidak memengaruhi “layanan AWS yang berhubungan langsung dengan pelanggan”, sehingga tidak diketahui oleh dunia luar. Namun para karyawan tampaknya mulai menyadari polanya.
Amazon telah mendorong penggunaan Kiro dengan kuat sejak memperkenalkan asisten koding ini pada Juli lalu, bahkan dikabarkan memberikan panduan kepada karyawan untuk menggunakan alat internal ini daripada opsi luar seperti Codex OpenAI, Claude Code Anthropic, atau Cursor—nampaknya hal ini membuat para insinyur kurang puas, yang lebih memilih menggunakan alat seperti Claude.
Maka, mungkin tidak mengherankan jika Amazon sangat defensif terhadap Kiro, anak kesayangannya. Menurut Financial Times, perusahaan tersebut menggambarkan insiden gangguan itu sebagai “masalah kontrol akses pengguna, bukan masalah otonomi AI”, dan menyatakan bahwa keterlibatan alat AI hanyalah “kebetulan” karena “masalah yang sama dapat terjadi dengan alat pengembang mana pun atau tindakan manual”. Bagian terakhir memang benar; manusia bisa saja membuat kesalahan yang sama. Tetapi kenyataannya, mereka tidak melakukannya. Justru agen AI-lah yang diduga memiliki tingkat akses tak terduga ke basis kode perusahaan dan melakukan sebuah kekeliruan.
Amazon dikabarkan telah menyampaikan kepada karyawan bahwa mereka menargetkan 80% pengembangnya menggunakan AI untuk tugas-tugas koding setidaknya sekali seminggu. Jika Anda suatu hari tidak dapat masuk ke Spotify atau Discord, ketahuilah bahwa Amazon mungkin telah mencapai targetnya.