Penyelidik keselamatan jalan raya federal ingin Tesla memberi tahu mereka bagaimana dan mengapa perusahaan ini mengembangkan perbaikan dalam pemanggilan lebih dari 2 juta kendaraan yang dilengkapi dengan sistem pengemudi otomatis sebagian Tesla Autopilot.
Penyelidik dari Administrasi Keselamatan Lalu Lintas Jalan Raya Nasional AS memiliki kekhawatiran tentang apakah perbaikan pemanggilan berhasil karena Tesla melaporkan 20 kecelakaan sejak perbaikan dikirim sebagai pembaruan perangkat lunak online pada bulan Desember.
Perbaikan panggilan juga ditujukan untuk mengatasi apakah Autopilot boleh beroperasi di jalan selain jalan tol terbatas. Perbaikan untuk itu adalah peningkatan peringatan kepada pengemudi di jalan dengan persimpangan.
Namun dalam surat kepada Tesla yang diposting di situs web agensi itu pada hari Selasa, penyelidik menulis bahwa mereka tidak dapat menemukan perbedaan antara peringatan kepada pengemudi untuk memperhatikan sebelum pemanggilan dan setelah perangkat lunak baru dirilis. Agensi tersebut mengatakan akan mengevaluasi apakah peringatan pengemudi sudah memadai, terutama ketika kamera pemantau pengemudi tertutup.
Agensi meminta sejumlah informasi tentang bagaimana Tesla mengembangkan perbaikan, dan fokus pada bagaimana perusahaan tersebut menggunakan perilaku manusia untuk menguji efektivitas pemanggilan.
‘Rimedi yang tidak memadai’
Phil Koopman, seorang profesor di Universitas Carnegie Mellon yang mempelajari keselamatan pengemudi otomatis, mengatakan surat tersebut menunjukkan bahwa pemanggilan hanya sedikit menyelesaikan masalah dengan Autopilot dan merupakan upaya untuk menenangkan NHTSA, yang menuntut pemanggilan setelah lebih dari dua tahun penyelidikan.
“Jelas bagi semua orang yang menyaksikan bahwa Tesla mencoba melakukan perbaikan yang paling sedikit mungkin untuk melihat apa yang mereka bisa lakukan,” kata Koopman. “Dan NHTSA harus merespons dengan tegas atau perusahaan mobil lain akan mulai mendorong keluar rimedi yang tidak memadai.”
Advokat keselamatan telah lama menyatakan kekhawatiran bahwa Autopilot, yang dapat menjaga kendaraan dalam jalurnya dan jarak dari objek di depannya, tidak dirancang untuk beroperasi di jalan selain jalan tol terbatas.
Missy Cummings, seorang profesor teknik dan komputasi di Universitas George Mason yang mempelajari kendaraan otomatis, mengatakan NHTSA merespons kritik dari legislator atas kurangnya tindakan pada kendaraan otomatis.
“Seburuk-buruknya pemerintah kita, lingkaran umpan baliknya bekerja,” kata Cummings. “Saya pikir kepemimpinan NHTSA kini yakin bahwa ini adalah masalah.”
Surat NHTSA berhalaman 18 meminta bagaimana Tesla menggunakan ilmu perilaku manusia dalam merancang Autopilot, dan penilaian perusahaan terhadap pentingnya mengevaluasi faktor manusia.
Agensi juga ingin Tesla mengidentifikasi setiap pekerjaan yang terlibat dalam evaluasi perilaku manusia dan kualifikasi pekerja. Dan itu meminta Tesla mengatakan apakah posisi tersebut masih ada.
Pesan telah ditinggalkan oleh Associated Press pada hari Selasa awal untuk meminta komentar dari Tesla tentang surat tersebut.
Tesla sedang dalam proses melakukan pemutusan hubungan kerja sekitar 10% dari tenaganya kerja, sekitar 14.000 orang, dalam upaya untuk memotong biaya untuk mengatasi penurunan penjualan global.
Cummings mengatakan dia curiga bahwa CEO Elon Musk mungkin telah memberhentikan siapa pun yang memiliki pengetahuan tentang perilaku manusia, keterampilan kunci yang diperlukan untuk menerapkan sistem sebagian otomatis seperti Autopilot, yang tidak dapat mengemudi sendiri dan memerlukan manusia untuk siap untuk campur tangan setiap saat.
“Jika Anda akan memiliki teknologi yang bergantung pada interaksi manusia, Anda lebih baik memiliki seseorang di tim Anda yang tahu apa yang mereka lakukan dalam ruang tersebut,” katanya.
Cummings mengatakan penelitiannya telah menunjukkan bahwa setelah sistem pengemudi mengambil alih kemudi dari manusia, hampir tidak ada lagi yang tersisa bagi otak manusia untuk dilakukan. Banyak pengemudi cenderung terlalu bergantung pada sistem dan tidak memperhatikan.
“Anda bisa memiliki kepala tetap dalam satu posisi, Anda potensialnya bisa memiliki mata Anda di jalan, dan Anda bisa berada jauh di pikiran Anda,” katanya. “Semua teknologi pemantau pengemudi di dunia ini masih tidak akan memaksa Anda untuk memperhatikan.”
Apakah Autopilot aktif atau tidak?
Dalam suratnya, NHTSA juga meminta Tesla untuk informasi tentang bagaimana perbaikan pemanggilan mengatasi kebingungan pengemudi apakah Autopilot telah dimatikan jika ada tekanan pada setir. Sebelumnya, jika Autopilot dinonaktifkan, pengemudi mungkin tidak segera menyadari bahwa mereka harus mengambil alih kemudi.
Pemanggilan menambahkan fungsi yang memberikan “perlambatan yang lebih nyata” untuk memberi peringatan kepada pengemudi ketika Autopilot dinonaktifkan. Namun perbaikan pemanggilan tidak mengaktifkan fungsi itu secara otomatis — pengemudi harus melakukannya. Penyelidik bertanya berapa banyak pengemudi yang telah melangkah itu.
NHTSA meminta Tesla, “Apa yang Anda maksud anda memiliki sebuah penyelesaian dan itu sebenarnya tidak diaktifkan?” kata Koopman.
Surat itu, katanya, menunjukkan bahwa NHTSA sedang melihat apakah Tesla melakukan uji coba untuk memastikan perbaikan benar-benar berhasil. “Melihat pemulihan saya kesulitan percaya bahwa ada banyak analisis yang menunjukkan bahwa ini akan meningkatkan keselamatan,” kata Koopman.
Agensi juga mengatakan Tesla melakukan pembaruan keselamatan setelah perbaikan pemanggilan dikirim, termasuk upaya untuk mengurangi kecelakaan yang disebabkan oleh hydroplaning dan untuk mengurangi tabrakan di jalur belok dengan kecepatan tinggi. NHTSA mengatakan akan melihat mengapa Tesla tidak menyertakan pembaruan dalam pemanggilan asli.
NHTSA bisa mencari pembaruan pemanggilan lebih lanjut, membuat Tesla membatasi di mana Autopilot dapat bekerja, atau bahkan memaksa perusahaan untuk menonaktifkan sistem sampai diperbaiki, kata pakar keselamatan.
NHTSA memulai penyelidikan Autopilot-nya pada tahun 2021, setelah menerima 11 laporan bahwa Tesla yang menggunakan Autopilot menabrak kendaraan darurat yang diparkir. Dalam dokumen yang menjelaskan mengapa penyelidikan diakhiri karena pemanggilan, NHTSA mengatakan akhirnya menemukan 467 kecelakaan yang melibatkan Autopilot yang mengakibatkan 54 luka dan 14 kematian.
Subscribe to the Eye on AI newsletter to stay abreast of how AI is shaping the future of business. Sign up for free.