Salah satu keunggulan yang diklaim dari teknologi mobil swakemudi ialah bahwa setiap kendaraan dapat belajar dari kesalahan satu kendaraan lainnya. Berikut pernyataan Waymo di situs webnya: “Waymo Driver belajar dari pengalaman kolektif yang terkumpul di seluruh armada kami, termasuk dari generasi perangkat keras sebelumnya.”
Namun di Austin, kendaraan Waymo berjuang selama berbulan-bulan untuk belajar cara berhenti bagi bus sekolah saat pengemudi menaikkan dan menurunkan anak-anak. Seorang pejabat Distrik Sekolah Independen Austin (AISD) mengklaim bahwa kendaraan tersebut, dalam setidaknya 19 kejadian, telah “secara ilegal dan berbahaya” melewati bus sekolah distrik itu saat lampu merahnya berkedip dan lengan berhentinya terentang, alih-alih berhenti sempurna seperti yang disyaratkan undang-undang.
Awal Desember, Waymo bahkan mengeluarkan penarikan federal terkait insiden tersebut, mengakui setidaknya 12 di antaranya kepada regulator federal di Administrasi Keselamatan Lalu Lintas Jalan Raya Nasional (NHTSA), yang mengawasi keselamatan jalan. Menurut dokumen federal, insinyur perusahaan kendaraan swakemudi itu telah “mengembangkan perubahan perangkat lunak untuk mengatasi perilaku tersebut” beberapa minggu sebelumnya.
Tetapi bahkan setelah penarikan itu, insiden penerobosan bus sekolah berlanjut, menurut pejabat sekolah dan sebuah laporan dari Dewan Keselamatan Transportasi Nasional (NTSB), badan pengawas keselamatan federal independen yang juga menyelidiki situasi ini.
Kini, surel dan pesan teks antara pejabat sekolah dan perwakilan Waymo, yang diperoleh WIRED melalui permintaan catatan publik, menunjukkan sejauh mana distrik sekolah publik Austin dan Waymo berupaya menyelesaikan masalah tersebut. Dokumen-dokumen menunjukkan AISD bahkan menyelenggarakan acara “pengumpulan data” setengah hari di sebuah parkiran sekolah pertengahan Desember, dengan beberapa karyawan mengerahkan bus sekolah dan sinyal lengan berhenti dari seluruh armada agar perusahaan mobil swakemudi itu dapat mengumpulkan informasi terkait kendaraan dan lampu kedipnya.
Meski demikian, pada pertengahan Januari, lebih dari sebulan kemudian, distrik sekolah melaporkan setidaknya empat insiden penerobosan bus sekolah lagi terjadi di Austin. “Data yang kami kumpulkan dari awal tahun ajaran hingga akhir semester menunjukkan bahwa sekitar 98 persen orang yang menerima satu pelanggaran tidak menerima pelanggran lagi,” kata seorang pejabat departemen kepolisian sekolah kepada afiliasi NBC lokal bulan itu. “Itu memberitahu kita bahwa orang tersebut belajar, tetapi tidak tampak bahwa sistem pengemudi otomatis Waymo belajar melalui pembaruan perangkat lunaknya, penarikannya, atau apa pun, karena kami masih mengalami pelanggaran.”
Situasi ini memunculkan pertanyaan tentang titik buta aneh dari teknologi swakemudi dan kemampuan industri untuk mengimbanginya bahkan setelah hal itu teridentifikasi.
Perangkat lunak swakemudi telah lama kesulitan mengenali lampu darurat yang berkedip serta perangkat keselamatan jalan dengan lengan panjang dan tipis, termasuk palang pintu dan lengan berhenti, ujar Missy Cummings, yang meneliti kendaraan otonom di George Mason University dan pernah menjadi penasihat keselamatan untuk NHTSA selama pemerintahan Biden. “Jika [perusahaan] tidak memperbaiki ini beberapa tahun lalu, semakin mereka berkendara, semakin ini akan menjadi masalah,” katanya. “Itulah yang persis terjadi di sini.”
Waymo tidak menanggapi permintaan komentar dari WIRED. Juru bicara Distrik Sekolah Independen Austin merujuk WIRED ke NTSB sementara insiden-inisiden tersebut sedang diselidiki. Seorang juru bicara NTSB menolak menjawab pertanyaan WIRED sementara penyelidikannya berlangsung.
Penerobosan Ilegal
Memasuki pertengahan musim dingin 2025, pejabat AISD frustasi. Dalam salah satu dari 19 insiden yang diklaim oleh pengacara distrik dalam surat yang kemudian dirilis oleh regulator keselamatan jalan federal, sebuah Waymo melewati bus sekolah yang sedang menurunkan anak-anak “hanya beberapa saat setelah seorang siswa menyeberang di depan kendaraan, dan saat siswa tersebut masih berada di jalan.”
“Yang mengkhawatirkan,” tulis pengacara itu, lima dari insiden yang diduga terjadi setelah Waymo meyakinkan distrik bahwa mereka telah memperbarui perangkat lunaknya untuk memperbaiki masalah tersebut. Regulator federal di NHTSA telah meluncurkan penyelidikan atas perilaku itu. “Austin ISD sedang mengevaluasi semua potensi solusi hukum yang dimilikinya dan bermaksud mengambil tindakan apa pun yang diperlukan untuk melindungi keselamatan siswanya, jika dibutuhkan,” peringat sang pengacara.
Pertimbangkan untuk mengintegrasikan sistem keamanan yang lebih komprehensif guna melindungi aset digital perusahaan kita. Langkah ini dianggap penting dalam memitigasi risiko pelanggaran data yang dapat berpotensi merugikan baik secara finansial maupun reputasi. Evaluasi menyeluruh terhadap penyedia layanan perlu dilakukan sebelum mengambil keputusan akhir.