Versi orisinil dari cerita ini muncul di Quanta Magazine.
Bayangkan sebuah kota dengan dua pedagang widget. Pelanggan lebih memilih widget yang lebih murah, sehingga kedua pedagang harus bersaing menetapkan harga terendah. Tidak puas dengan keuntungan mereka yang sedikit, mereka bertemu suatu malam di sebuah kedai yang penuh asap rokok untuk mendiskusikan rencana rahasia: Jika mereka menaikkan harga bersama-sama alih-alih bersaing, mereka berdua bisa mendapat untung lebih banyak. Namun penetapan harga secara sengaja seperti itu, yang disebut kolusi, sudah lama ilegal. Para pedagang widget memutuskan untuk tidak mengambil risiko itu, dan semua orang pun bisa menikmati widget yang murah.
Selama lebih dari satu abad, hukum AS telah mengikuti pola dasar ini: Larang kesepakatan tertutup itu, dan harga yang wajar seharusnya terjaga. Belakangan ini, segalanya tidak sesederhana itu. Di berbagai sektor ekonomi, penjual semakin mengandalkan program komputer yang disebut algoritma pembelajaran, yang terus-menerus menyesuaikan harga sebagai respons terhadap data baru tentang keadaan pasar. Algoritma ini seringkali jauh lebih sederhana daripada algoritma “pembelajaran mendalam” yang menggerakkan kecerdasan buatan modern, tetapi mereka masih rentan terhadap perilaku tak terduga.
Jadi, bagaimana regulator dapat memastikan bahwa algoritma menetapkan harga yang wajar? Pendekatan tradisional mereka tidak akan berhasil, karena bergantung pada menemukan kolusi yang eksplisit. “Algoritma-algoritma itu pasti tidak sedang minum-minum bersama,” kata Aaron Roth, seorang ilmuwan komputer dari University of Pennsylvania.
Namun, sebuah makalah tahun 2019 yang banyak dikutip menunjukkan bahwa algoritma dapat belajar untuk berkolusi secara implisit, bahkan ketika mereka tidak diprogram untuk melakukannya. Sebuah tim peneliti mempertemukan dua salinan dari algoritma pembelajaran sederhana dalam sebuah pasar simulasi, lalu membiarkan mereka mengeksplorasi berbagai strategi untuk meningkatkan keuntungan mereka. Seiring waktu, setiap algoritma belajar melalui coba-coba untuk membalas ketika yang lain menurunkan harga—dengan menjatuhkan harganya sendiri dengan jumlah yang besar dan tidak proporsional. Hasil akhirnya adalah harga tinggi, yang didukung oleh ancaman perang harga secara timbal balik.
Aaron Roth menduga bahwa jebakan dalam penetapan harga algoritmik mungkin tidak memiliki solusi yang sederhana. “Pesan dari makalah kami adalah sulit untuk menentukan apa yang harus dilarang,” katanya.
Photograph: Courtesy of Aaron Roth
Ancaman implisit seperti ini juga menjadi dasar banyak kasus kolusi manusia. Jadi, jika Anda ingin menjamin harga yang wajar, mengapa tidak hanya mewajibkan penjual untuk menggunakan algoritma yang secara inheren tidak mampu mengungkapkan ancaman?
Dalam sebuah makalah terbaru, Roth dan empat ilmuwan komputer lainnya menunjukkan mengapa hal ini mungkin tidak cukup. Mereka membuktikan bahwa bahkan algoritma yang tampaknya jinak dan mengoptimalkan keuntungan mereka sendiri terkadang dapat menghasilkan outcomes yang buruk bagi pembeli. “Anda masih bisa mendapatkan harga tinggi dengan cara-cara yang terlihat cukup wajar dari luar,” kata Natalie Collina, seorang mahasiswa pascasarjana yang bekerja dengan Roth dan ikut menulis studi baru tersebut.
Para peneliti tidak sepenuhnya sepakat mengenai implikasi temuan ini—banyak hal bergantung pada bagaimana Anda mendefinisikan “wajar”. Tetapi ini mengungkapkan betapa halusnya pertanyaan seputar penetapan harga algoritmik, dan betapa sulitnya hal itu untuk diatur.