Versi asli cerita ini muncul di Quanta Magazine.
Mobil dan pesawat tanpa pengemudi bukan lagi sesuatu yang hanya ada di masa depan. Hanya di kota San Francisco saja, dua perusahaan taksi telah mencatat lebih dari 8 juta mil perjalanan otonom hingga Agustus 2023. Dan lebih dari 850.000 kendaraan udara otonom, atau drone, terdaftar di Amerika Serikat – tanpa menghitung yang dimiliki oleh militer.
Namun, ada kekhawatiran yang sah tentang keamanan. Sebagai contoh, dalam periode 10 bulan yang berakhir pada Mei 2022, Administrasi Keselamatan Lalu Lintas Jalan Raya Nasional melaporkan hampir 400 kecelakaan yang melibatkan mobil yang menggunakan beberapa bentuk kontrol otonom. Enam orang meninggal akibat kecelakaan ini, dan lima orang terluka parah.
Cara biasa untuk mengatasi masalah ini – kadang-kadang disebut “pengujian melalui kelelahan” – melibatkan pengujian sistem ini hingga Anda puas bahwa mereka aman. Tetapi Anda tidak pernah bisa yakin bahwa proses ini akan mengungkap semua kekurangan potensial. “Orang melakukan pengujian sampai mereka telah melampaui sumber daya dan kesabaran mereka,” kata Sayan Mitra, seorang ilmuwan komputer di Universitas Illinois, Urbana-Champaign. Namun, pengujian sendiri tidak dapat memberikan jaminan.
Mitra dan rekan-rekannya bisa melakukannya. Timnya berhasil membuktikan keamanan kemampuan pelacakan jalur untuk mobil dan sistem pendaratan pesawat otonom. Strategi mereka sekarang digunakan untuk membantu mendaratkan drone di kapal induk, dan Boeing berencana mengujinya pada pesawat percobaan tahun ini. “Metode mereka untuk memberikan jaminan keamanan end-to-end sangat penting,” kata Corina Pasareanu, seorang ilmuwan peneliti di Universitas Carnegie Mellon dan Pusat Penelitian NASA Ames.
Karya mereka melibatkan menjamin hasil dari algoritma pembelajaran mesin yang digunakan untuk menginformasikan kendaraan otonom. Secara umum, banyak kendaraan otonom memiliki dua komponen: sistem persepsi dan sistem kontrol. Sistem persepsi memberi tahu Anda, misalnya, seberapa jauh mobil Anda dari tengah jalur, atau arah mana pesawat sedang menuju dan sudutnya dengan respect to horizon. Sistem ini beroperasi dengan memberi makan data mentah dari kamera dan alat sensor lainnya ke algoritma pembelajaran mesin berbasis jaringan saraf, yang menciptakan kembali lingkungan di luar kendaraan.
Penilaian ini kemudian dikirim ke sistem terpisah, modul kontrol, yang memutuskan apa yang harus dilakukan. Jika ada hambatan yang akan datang, misalnya, ia memutuskan apakah akan menerapkan rem atau menghindarinya. Menurut Luca Carlone, seorang profesor asosiasi di Institut Teknologi Massachusetts, meskipun modul kontrol mengandalkan teknologi yang mapan, “ia membuat keputusan berdasarkan hasil persepsi, dan tidak ada jaminan bahwa hasil tersebut benar.”
Untuk memberikan jaminan keamanan, tim Mitra bekerja untuk memastikan kehandalan sistem persepsi kendaraan. Mereka pertama-tama berasumsi bahwa mungkin untuk menjamin keamanan ketika gambaran sempurna dari dunia luar tersedia. Mereka kemudian menentukan seberapa besar kesalahan yang diperkenalkan oleh sistem persepsi dalam merekonstruksi lingkungan kendaraan.
Kunci strategi ini adalah untuk mengukur ketidakpastian yang terlibat, yang dikenal sebagai pita kesalahan – atau “yang diketahui tapi tidak diketahui,” seperti yang dikatakan oleh Mitra. Perhitungan ini berasal dari apa yang dia dan timnya sebut kontrak persepsi. Dalam rekayasa perangkat lunak, kontrak adalah komitmen bahwa, untuk input yang diberikan ke program komputer, output akan berada dalam rentang yang ditentukan. Menentukan rentang ini tidak mudah. Seberapa akurat sensor mobil? Seberapa banyak kabut, hujan, atau silau matahari yang dapat ditoleransi oleh sebuah drone? Tetapi jika Anda dapat menjaga kendaraan dalam rentang ketidakpastian yang ditentukan, dan jika penentuan rentang tersebut cukup akurat, tim Mitra membuktikan bahwa Anda dapat memastikan keamanannya.