Kecerdasan buatan (AI) mungkin akan lebih berpengaruh daripada Revolusi Industri. Sektor swasta sudah investasi banyak uang untuk mengembangkan dan memakai AI. Untuk mempercepat inovasi dan adopsi AI di Amerika Serikat, pemerintahan Trump baru-baru ini mengumumkan “Rencana Aksi AI” yang luas.
AI sudah dipakai untuk memerangi penyakit, melakukan matematika rumit, mengangkut orang dan barang, membantu kepatuhan hukum, dan mendesain struktur fisik. Tahun lalu, dua Hadiah Nobel terkait dengan AI—Hadiah Nobel fisika “untuk penemuan dan penemuan dasar yang memungkinkan pembelajaran mesin dengan jaringan saraf tiruan” dan Hadiah Nobel kimia “untuk desain protein komputasional” dan “prediksi struktur protein.” Komite Nobel menyatakan, “Kehidupan tidak bisa ada tanpa protein. Bahwa kita sekarang bisa memprediksi struktur protein dan mendesain protein kita sendiri memberikan manfaat terbesar bagi umat manusia.”
Masa depan dengan AI sangat menginspirasi. Kemampuan besar AI untuk meningkatkan kehidupan sehari-hari seseorang termasuk menambah keterampilan manusia, meningkatkan produktivitas, dan melakukan tugas, menciptakan peluang bagi orang untuk menghabiskan waktu pada prioritas yang lebih mendesak. Di tingkat makro, AI seharusnya mendorong pertumbuhan ekonomi seperti terobosan teknologi lain selama berabad-abad. Bahkan lebih lagi, bayangkan jika kolaborasi AI-manusia menemukan obat untuk kanker, menemukan sumber makanan baru yang mengatasi kelaparan, dan memungkinkan pembangunan gedung yang lebih tahan gempa, tornado, badai, dan api—tidak ada yang mustahil mengingat kecepatan penelitian AI dan perkembangan AI.
Kami paham bahwa sehebat apapun manfaat AI, AI telah menyebabkan kekhawatiran bagi banyak orang, bahkan ketakutan. Sistem AI yang canggih semakin cepat menjadi lebih baik. Ini menyebabkan kekhawatiran utama bahwa manusia tidak akan bisa mengikuti AI dan pada akhirnya AI akan mengambil alih kendali. Perhatian juga terpusat pada, antara lain, penyalahgunaan AI, deepfake, halusinasi AI, efek AI pada pekerjaan, dan menjaga nilai-nilai yang mungkin dilanggar oleh aplikasi AI tertentu.
Kepercayaan itu sangat penting
Bagaimana kita mencapai manfaat besar dan peluang yang ditawarkan AI sambil mengurangi dan mengelola risiko terkait akan terus menjadi fokus, baik sebagai kebijakan maupun praktik. Kepercayaan pada AI diperlukan agar AI bisa berkembang, memberikan keuntungan bagi manusia. Jika pagar pembatas dan pengawasan terlalu longgar, risiko bisa berubah menjadi bahaya nyata yang tidak ingin kita terima sebagai masyarakat. Di sisi lain, pagar pembatas dan pengawasan AI yang terlalu ketat dan membatasi bisa mengorbankan terobosan AI yang memicu solusi untuk masalah yang sulit, menghasilkan penemuan menakjubkan, dan meningkatkan standar hidup.
Dengan inovasi dan adopsi AI yang melaju cepat, nilai nyata AI sudah jelas. Kunci untuk mewujudkan janji penuh AI adalah menggunakan AI itu sendiri untuk membantu mengurangi dan mengelola kekhawatiran tentang AI—sesuatu yang bisa dikembangkan oleh sektor swasta.
Orang menyesuaikan perilaku mereka untuk situasi yang berbeda, memperbaiki diri sendiri ketika dimintai pertanggungjawaban, dan menginternalisasi nilai-nilai yang mempengaruhi keputusan mereka. AI yang canggih mungkin bisa melakukan hal yang sama, tetap dalam parameter dan batasan yang ditentukan untuk memenuhi harapan masyarakat. Seiring kemajuan AI, mungkin saja untuk merancang dan melatih sistem AI tidak hanya untuk mengidentifikasi sendiri jika sistem menyimpang dari kinerja yang diterima, tetapi juga untuk memperbaiki diri sendiri agar sesuai dengan tujuan dan nilai masyarakat. Upaya teknologi untuk mencapai ini sedang berlangsung.
Bahkan jika terwujud, penyelarasan AI semacam ini tidak akan sepenuhnya mengatasi kekhawatiran inti.
AI yang mengawasi AI
Lapisan lain perlu muncul: AI yang mengawasi AI. Orang perlu berkolaborasi dengan agen AI untuk memantau bahwa sistem AI lain melakukan apa yang seharusnya mereka lakukan. Agen AI canggih dapat dikembangkan dan digunakan untuk mengidentifikasi apakah agen AI lain atau penggunaan AI bertindak menyimpang atau jahat, tidak berperilaku sesuai dengan tolok ukur kinerja, menggagalkan tujuan yang seharusnya mereka promosikan, atau menimbulkan bahaya lain. Misalnya, dengan pengawasan manusia, agen AI kepatuhan perusahaan dapat membantu memastikan bahwa sistem AI yang digunakan perusahaan dalam bisnisnya mematuhi persyaratan hukum dan peraturan—yang mustahil dilakukan manusia sendirian karena kecepatan dan skala di mana sistem AI canggih perusahaan dapat beroperasi.
Volume dan luas penggunaan AI sangat besar dan terus berkembang. Ini menyebabkan kesulitan. Contohnya, saat menggunakan AI untuk memasarkan produk, memberikan dukungan pelanggan interaktif, membuat draf perjanjian, atau membuat konten lain, bisnis perlu memastikan bahwa yang dihasilkan oleh sistem AI mereka adalah patuh. Tapi kemampuan manusia, dengan sendirinya, tidak akan cukup untuk meninjau dan menilai semua penggunaan untuk kepatuhan. Kesenjangan kapasitas ini akan melebar seiring kemajuan AI dan diadopsi lebih luas serta bertindak lebih mandiri. Perusahaan tidak boleh gagal memenuhi kewajiban kepatuhan mereka; mereka juga tidak boleh ragu-ragu, apalagi melewatkan, penggunaan agen AI di pasar ketika pesaing mereka aktif melakukannya untuk mendapatkan keunggulan strategis dan operasional. Solusinya adalah bagi perusahaan untuk menggunakan agen AI untuk memperkuat kepatuhan, menambah usaha dan penilaian manusia. Kemampuan luar biasa agen AI untuk mengevaluasi dalam hitungan detik atau menit apakah output dan perilaku AI mematuhi persyaratan hukum dan peraturan yang luas memungkinkan adopsi dan penerapan AI yang patuh dalam skala besar.
AI harus diterima, bahkan saat kita bersiap untuk perubahan yang dibawanya. Risiko perlu diperhitungkan. Tapi itu tidak boleh mengurangi komitmen untuk mendorong pengembangan dan adopsi AI. Komitmen itu termasuk investasi dalam penelitian AI dasar dan terapan. Dan itu termasuk mengatur manajemen risiko dan tata kelola yang tepat untuk membangun kepercayaan tanpa membatasi kecerdasan dan inovasi.
Memanfaatkan AI untuk membantu memastikan bahwa sistem AI lain beroperasi dengan bermanfaat dan andal—sesuai dengan tujuan yang dimaksudkan—akan berkontribusi pada janji jangka panjang AI.
Pendapat yang diungkapkan dalam tulisan komentar Fortune.com adalah pandangan penulisnya dan tidak selalu mencerminkan pendapat dan keyakinan Fortune.
Fortune Brainstorm AI kembali ke San Francisco pada 8–9 Desember untuk mengumpulkan orang-orang terpintar yang kami kenal—teknolog, pengusaha, eksekutif Fortune Global 500, investor, pembuat kebijakan, dan para pemikir brilian di antaranya—untuk mengeksplorasi dan memeriksa pertanyaan paling mendesak tentang AI pada momen penting lainnya. Daftar disini.