Sekitar 185.000 orang telah meninggal dalam kecelakaan penerbangan sipil sejak era penerbangan bertenaga dimulai lebih dari satu abad yang lalu. Namun, dalam lima tahun terakhir di antara maskapai AS, risiko kematian hampir nol. Faktanya, peluang Anda untuk memenangkan sebagian besar undian jauh lebih besar daripada meninggal sebagai penumpang di pesawat carrier Amerika.
Bagaimana penerbangan menjadi begitu aman? Dan bisakah kita menerapkan pelajaran keselamatan yang diperoleh dengan susah payah dari penerbangan ke kecerdasan buatan?
Ketika umat manusia memperkenalkan teknologi baru yang mengubah paradigma dan teknologi itu diadopsi secara global dengan cepat, konsekuensi masa depannya tidak diketahui dan sering kali ditakuti secara kolektif. Pengenalan penerbangan bertenaga pada tahun 1903 oleh Wright bersaudara tidak terkecuali. Banyak keberatan terhadap teknologi baru ini, termasuk kekhawatiran religius, politik, dan teknis.
Tidak lama setelah penerbangan bertenaga diperkenalkan, kecelakaan pesawat pertama terjadi – dan maksud saya terjadi pada hari yang sama. Itu terjadi pada penerbangan keempat Wright bersaudara. Orang pertama yang tewas dalam kecelakaan pesawat terbunuh lima tahun kemudian pada 1908. Sejak itu, telah terjadi lebih dari 89.000 kecelakaan pesawat di seluruh dunia.
Saya seorang peneliti yang mempelajari keselamatan perjalanan udara, dan saya melihat bagaimana industri AI saat ini menyerupai tahun-tahun awal industri penerbangan – yang jelas-jelas kurang aman.
Dari Mempelajari Kecelakaan hingga Memprediksinya
Meskipun tragis, setiap kecelakaan dan setiap korban jiwa mewakili momen untuk refleksi dan pembelajaran. Penyidik kecelakaan berusaha merekonstruksi setiap kecelakaan dan mengidentifikasi pemicu serta akar penyebabnya. Setelah para penyelidik mengidentifikasi apa yang menyebabkan setiap jatuhnya pesawat, pembuat dan operator pesawat menerapkan tindakan keselamatan dengan harapan dapat mencegah kecelakaan tambahan.
Misalnya, jika seorang pilot di era awal penerbangan lupa menurunkan roda pendarat sebelum mendarat, hasil yang mungkin adalah kecelakaan saat mendarat. Jadi, industri menemukan cara untuk memasang sistem peringatan yang akan mengingatkan pilot tentang keadaan roda pendarat yang tidak aman – sebuah pelajaran yang dipetik hanya setelah terjadi kecelakaan. Proses reaktif ini, meski diperlukan, adalah harga yang berat untuk mempelajari cara meningkatkan keselamatan.
Sepanjang abad ke-20, dunia penerbangan mengorganisir dan menstandarisasi operasi, prosedur, dan prosesnya. Pada tahun 1938, Presiden Franklin Roosevelt menandatangani Undang-Undang Penerbangan Sipil, yang mendirikan Otoritas Penerbangan Sipil. Lembaga pendahulu Federal Aviation Administration (FAA) ini mencakup Dewan Keselamatan Udara.
Paradigma keselamatan yang sepenuhnya reaktif bergeser seiring waktu menjadi proaktif dan akhirnya prediktif. Pada tahun 1997, sekelompok organisasi penerbangan dari industri, buruh, dan pemerintah membentuk grup bernama Commercial Aviation Safety Team (CAST). Mereka mulai melihat data dan berusaha menemukan tren serta menganalisis laporan pengguna untuk mengidentifikasi risiko dan bahaya sebelum menjadi kecelakaan penuh. Kelompok ini, yang termasuk FAA dan NASA, memutuskan sejak awal bahwa tidak akan ada persaingan di antara maskapai penerbangan dalam hal keselamatan. Industri akan secara terbuka berbagi data keselamatan. Kapan terakhir kali Anda melihat kampanye iklan maskapai yang mengklaim "maskapai kami lebih aman daripada mereka"?
Semuanya Tergantung pada Data
Commercial Aviation Safety Team membantu industri beralih dari reaktif ke prediktif dengan mengadopsi pendekatan sistemik yang digerakkan oleh data untuk menangani masalah keselamatan. Mereka menghasilkan data ini menggunakan laporan dari orang-orang dan data dari pesawat.
Setiap hari, jutaan penerbangan terjadi di seluruh dunia, dan pada setiap penerbangan tersebut, ribuan titik data dicatat. Profesional keselamatan penerbangan sekarang menggunakan Perekam Data Penerbangan – yang lama digunakan untuk menyelidiki kecelakaan setelah kejadian – untuk menganalisis data dari setiap penerbangan. Dengan mengkaji semua data ini secara saksama, analis keselamatan dapat melihat peristiwa dan tren yang bermasalah dan mulai muncul. Misalnya, dengan menganalisis data, seorang ilmuwan keselamatan yang terlatih dapat melihat apakah pendekatan pesawat tertentu ke landasan pacu menjadi lebih berisiko karena faktor-faktor seperti kecepatan udara yang berlebihan dan penyelarasan yang buruk – sebelum kecelakaan pendaratan terjadi.
Untuk lebih meningkatkan kemampuan proaktif dan prediktif, siapa pun yang beroperasi dalam sistem penerbangan dapat mengajukan laporan keselamatan yang anonim dan tanpa hukuman. Tanpa jaminan anonimitas, orang mungkin ragu-ragu untuk melaporkan masalah, dan industri penerbangan akan melewatkan informasi penting terkait keselamatan.
Semua data ini disimpan, dikumpulkan, dan dianalisis oleh ilmuwan keselamatan, yang melihat sistem secara keseluruhan dan berusaha menemukan pemicu kecelakaan sebelum mereka menyebabkan kecelakaan. Risiko meninggal sebagai penumpang di maskapai AS sekarang kurang dari 1 dalam 98 juta. Anda lebih mungkin meninggal dalam perjalanan Anda ke bandara daripada dalam kecelakaan pesawat. Sekarang, lebih dari 100 tahun sejak dimulainya penerbangan bertenaga, industri penerbangan – setelah mempelajari pelajaran yang berharga – telah menjadi sangat aman.
Sebuah Model untuk AI
Kecerdasan buatan dengan cepat merambah banyak aspek kehidupan, dari mobil self-driving hingga tindakan peradilan pidana dan keputusan perekrutan serta pinjaman. Namun, teknologinya jauh dari sempurna, dan kesalahan yang diatribusikan kepada AI telah memiliki konsekuensi yang mengubah hidup – dan dalam beberapa kasus bahkan menyangkut nyawa.
Hampir semua perusahaan AI sedang berusaha menerapkan beberapa langkah keselamatan. Tetapi mereka tampaknya melakukan upaya ini secara individual, persis seperti yang dilakukan pelaku awal di bidang penerbangan. Dan upaya ini sebagian besar reaktif, menunggu AI membuat kesalahan dan kemudian bertindak.
Bagaimana jika ada grup seperti Commercial Aviation Safety Team di mana semua perusahaan AI, regulator, akademisi, dan pihak-pihak terkait lainnya berkumpul untuk memulai proses proaktif dan prediktif dalam memastikan AI tidak menyebabkan malapetaka?
Dari perspektif pelaporan, bayangkan jika setiap antarmuka AI memiliki tombol laporan yang dapat diklik pengguna untuk tidak hanya melaporkan hasil yang berpotensi halusinasi dan tidak aman kepada setiap perusahaan, tetapi juga melaporkannya kepada organisasi AI yang dimodelkan seperti Commercial Aviation Safety Team. Selain itu, data yang dihasilkan oleh sistem AI, seperti yang kita lihat dalam penerbangan, juga dapat dikumpulkan, diagregasi, dan dianalisis untuk ancaman keselamatan.
Meskipun pendekatan ini mungkin bukan solusi utama untuk mencegah bahaya dari AI, jika Big Tech mengadopsi pelajaran yang dipetik dari industri berisiko tinggi lainnya seperti penerbangan, hal itu mungkin bisa belajar untuk mengatur, mengendalikan, dan ya, membuat AI lebih aman untuk digunakan semua orang.