Amazon mengadakan rapat teknologi ritel mingguan mereka pada hari Selasa untuk mencari tahu kenapa situs web ritel mereka sering bermasalah. Menurut Financial Times, jawabannya, yang ada di dokumen internal lalu cepat dihapus, adalah inisiatif AI mereka sendiri.
Dalam satu minggu, terjadi empat insiden parah di situs web ritelnya, termasuk gangguan enam jam Kamis lalu yang membuat pelanggan tidak bisa checkout, melihat info akun, dan harga produk. Rapat yang dipimpin wakil presiden senior itu membahas penyebab masalah. Ternyata, masalahnya melibatkan alat AI yang justru Amazon dorong untuk digunakan para insinyurnya.
Sebuah dokumen internal awal menyebutkan perubahan yang dibantu "GenAI" sebagai faktor dalam rangkaian insiden sejak kuartal ketiga. Namun, referensi ini dihapus sebelum rapat, menurut Financial Times.
Amazon membantah laporan tersebut. Dalam sebuah postingan blog, perusahaan menyatakan hanya satu insiden yang melibatkan alat AI, bahwa "tidak ada insiden yang melibatkan kode ditulis AI", dan penyebabnya adalah "seorang insinyur mengikuti saran tidak akurat yang disimpulkan agent dari wiki internal yang sudah kedaluwarsa." Amazon juga menyebut rapat itu hanyalah tinjauan operasi mingguan biasa, bukan pertemuan darurat.
Namun, dokumen internal yang dilaporkan CNBC menceritakan kisah lain. Dave Treadwell, SVP eCommerce Foundation, menulis bahwa ketersediaan situs belakangan ini tidak baik dan serangkaian insiden Sev 1 (yang paling parah) butuh perhatian segera.
Catatan internal itu mengakui bahwa praktik terbaik dan pengamanan untuk penggunaan generative AI belum sepenuhnya terbentuk, dan perusahaan akan menerapkan "gesekan terkontrol" untuk penerapan di bagian paling kritis dari pengalaman berbelanja. Pesannya bagi para insinyur adalah: perubahan berbantuan AI sekarang akan diperiksa lebih ketat.
Waktu pengakuan semacam ini sulit bagi Amazon. Perusahaan yang baru saja mengalahkan Walmart untuk jadi nomor satu di Fortune 500 ini menghabiskan lebih banyak uang untuk infrastruktur AI daripada perusahaan mana pun di dunia — proyeksi pengeluaran modal tahun ini mencapai $200 miliar.
Amazon juga secara agresif mengurangi tenaga kerjanya. Perusahaan mem-PHK sekitar 14.000 pekerja korporat pada Oktober (kebanyakan manajer menengah), diikuti 16.000 lagi pada Januari. Itu ditambah lebih dari 27.000 karyawan yang dipotong antara 2022 dan 2023. CEO Andy Jassy menulis dalam memo internal bahwa Amazon butuh lebih sedikit karyawan berkat "peningkatan efisiensi" yang didorong AI. Saat PHK Oktober terjadi, Jassy menyebut alasannya tentang "budaya", bahwa perusahaan tumbuh terlalu cepat selama pandemi.
Tetapi memo Amazon terpisah yang mengumumkan PHK yang sama menyebut kebutuhan untuk beradaptasi dengan "teknologi transformatif", bahasa yang lebih cocok untuk pengurangan tenaga kerja berbasis AI. Namun, tampaknya bagaimanapun juga, Amazon justru butuh lebih banyak manusia dalam prosesnya.
Ini pelanggaran narasi yang menarik di dunia PHK terkait AI. Perusahaan Jack Dorsey, Block, memotong hampir setengah tenaga kerjanya bulan lalu — 4.000 karyawan — dan mengaitkan keputusan itu secara eksplisit dengan peningkatan produktivitas berbasis AI. Dorsey mengatakan sebagian besar perusahaan akan mencapai kesimpulan yang sama dalam setahun. CEO Salesforce Marc Benioff juga mengatakan dia butuh lebih sedikit kepala setelah memotong 4.000 peran dukungan. Konsensus para eksekutif puncak adalah bahwa peningkatan investasi AI akan terbayar dengan sendirinya melalui tenaga kerja yang lebih kecil.
Tetapi janji bahwa AI akan meringankan beban kerja tidak terwujud — setidaknya, tidak bagi pekerja yang tersisa, dan tidak untuk sistem yang mereka kelola. Analisis baru oleh ActivTrak terhadap 164.000 pekerja menemukan bahwa AI justru meningkatkan kecepatan, kepadatan, dan kompleksitas pekerjaan. Waktu yang dihabiskan untuk email, pesan, dan aplikasi chat lebih dari dua kali lipat setelah pekerja mengadopsi alat AI. Waktu untuk pekerjaan fokus tanpa gangguan — jenis yang dibutuhkan untuk memecahkan masalah kompleks — turun 9%.
Sementara itu, penelitian baru dari Anthropic menunjukkan kesenjangan besar antara apa yang secara teoritis bisa diotomatisasi AI dan apa yang benar-benar diotomatisasi saat ini. Bahkan di perangkat lunak dan matematika — di mana 94% tugas secara teori bisa ditangani AI — hanya sekitar 33% yang diotomatisasi hari ini. Kendala hukum dan masalah kelembagaan memperlambat penerapan. Gangguan di Amazon bisa menjadi demonstrasi langsung alasannya.