Kecerdasan buatan itu cukup pintar—dan juga cukup bodoh—untuk secara luas membentuk kartel pembentukan harga dalam kondisi pasar keuangan jika dibiarkan sendiri.
Sebuah working paper yang diposting awal tahun ini di situs National Bureau of Economic Research dari Wharton School di University of Pennsylvania dan Hong Kong University of Science and Technology menemukan, saat agen perdagangan bertenaga AI dilepas ke pasar simulasi, bot-bot itu berkolusi satu sama lain, terlibat dalam penetapan harga untuk mendapat keuntungan bersama.
Dalam studi ini, peneliti melepas bot ke model pasar, yaitu sebuah program komputer yang dirancang untuk mensimulasikan kondisi pasar nyata dan melatih AI memahami data harga pasar. Di dalamnya, pembuat pasar virtual menetapkan harga berdasarkan variabel-variabel berbeda. Pasar ini bisa punya tingkat “kebisingan” yang berbeda, yang merujuk pada jumlah informasi bertentangan dan fluktuasi harga. Meski beberapa bot dilatih berperilaku seperti investor ritel dan lainnya seperti hedge fund, di banyak kasus, mesin-mesin ini terlibat perilaku penetapan harga yang “luas” dengan secara kolektif menolak untuk trading secara agresif—tanpa diperintah secara spesifik untuk melakukannya.
Dalam satu model algoritma yang melihat strategi pemicu harga, agen AI trading dengan konservatif berdasarkan sinyal hingga ayunan pasar yang cukup besar memicu mereka untuk trading sangat agresif. Bot-bot yang dilatih melalui pembelajaran penguatan, cukup canggih untuk secara implisit memahami bahwa trading agresif yang meluas bisa menciptakan volatilitas pasar lebih besar.
Di model lain, bot AI memiliki bias yang terlalu dipangkas dan dilatih untuk menginternalisasi bahwa jika perdagangan berisiko mengakibatkan hasil negatif, mereka tidak boleh mengejar strategi itu lagi. Bot-bot itu trading secara konservatif dengan cara “dogmatis”, bahkan ketika perdagangan lebih agresif dianggap lebih menguntungkan, secara kolektif bertindak dengan cara yang disebut studi sebagai “kebodohan buatan”.
“Dalam kedua mekanisme itu, mereka pada dasarnya konvergen ke pola di mana mereka tidak bertindak agresif, dan dalam jangka panjang, itu baik untuk mereka,” kata rekan penulis studi dan profesor keuangan Wharton, Itay Goldstein, kepada Fortune.
Regulator keuangan sudah lama berusaha mengatasi praktik anti-persaingan seperti kolusi dan penetapan harga di pasar. Tapi di sektor ritel, AI menjadi sorotan, terutama saat perusahaan yang menggunakan penetapan harga algoritmik diawasi. Bulan ini, Instacart, yang menggunakan alat penetapan harga bertenaga AI, mengumumkan akan mengakhiri programnya di mana beberapa pelanggan melihat harga berbeda untuk item yang sama di platform perusahaan pengiriman itu. Ini menyusul analisis Consumer Reports yang menemukan dalam eksperimen bahwa Instacart menawarkan hampir 75% item belanjaannya dengan banyak harga.
“Untuk [SEC] dan regulator di pasar keuangan, tujuan utama mereka adalah tidak hanya menjaga stabilitas semacam ini, tetapi juga memastikan persaingan pasar dan efisiensi pasar,” kata Winston Wei Dou, profesor keuangan Wharton dan salah satu penulis studi, kepada Fortune.
Dengan pemikiran itu, Dou dan dua rekan berusaha mengidentifikasi bagaimana AI akan berperilaku di pasar keuangan dengan menempatkan bot agen perdagangan ke berbagai pasar simulasi berdasarkan tingkat “kebisingan” tinggi atau rendah. Bot-bot itu akhirnya mendapat “keuntungan supra-kompetitif” dengan secara kolektif dan spontan memutuskan untuk menghindari perilaku trading agresif.
“Mereka hanya percaya perilaku trading sub-optimal sebagai optimal,” kata Dou. “Tapi ternyata, jika semua mesin di lingkungan itu trading dengan cara ‘sub-optimal’, sebenarnya semua bisa mendapat untung karena mereka tidak mau mengambil keuntungan satu sama lain.”
Singkatnya, bot-bot itu tidak mempertanyakan perilaku trading konservatif mereka karena mereka semua menghasilkan uang dan karena itu berhenti terlibat dalam perilaku kompetitif satu sama lain, membentuk kartel de-facto.
Kekhawatiran akan AI di layanan keuangan
Dengan kemampuan untuk meningkatkan inklusi konsumen di pasar keuangan dan menghemat waktu serta uang investor untuk layanan penasihat, alat AI untuk layanan keuangan, seperti bot agen perdagangan, menjadi semakin menarik. Hampir sepertiga investor AS mengatakan mereka nyaman menerima nasihat perencanaan keuangan dari alat bertenaga AI generatif, menurut survei 2023 dari organisasi nirlaba perencanaan keuangan CFP Board. Sebuah laporan yang diterbitkan Juli dari bursa kripto MEXC menemukan bahwa di antara 78.000 pengguna Gen Z, 67% dari trader itu mengaktifkan setidaknya satu bot perdagangan bertenaga AI di kuartal fiskal sebelumnya.
Tapi di samping manfaatnya, agen perdagangan AI tidak tanpa risiko, menurut Michael Clements, direktur pasar keuangan dan komunitas di Government Accountability Office (GAO). Selain kekhawatiran keamanan siber dan potensi pengambilan keputusan bias, bot perdagangan ini bisa punya dampak nyata pada pasar.
“Banyak model AI dilatih dengan data yang sama,” kata Clements kepada Fortune. “Jika ada konsolidasi dalam AI sehingga hanya ada beberapa penyedia utama platform ini, kamu bisa dapat perilaku herding—bahwa sejumlah besar individu dan entitas membeli pada saat yang sama atau menjual pada saat yang sama, yang dapat menyebabkan beberapa dislokasi harga.”
Jonathan Hall, pejabat eksternal di Komite Kebijakan Keuangan Bank of England, memperingatkan tahun lalu tentang bot AI yang mendorong “perilaku seperti herding” ini yang dapat melemahkan ketahanan pasar. Dia menganjurkan “tombol mati” untuk teknologi itu, serta peningkatan pengawasan manusia.
Membongkar celah regulasi dalam alat penetapan harga AI
Clements menjelaskan banyak regulator keuangan sejauh ini mampu menerapkan aturan dan statuta yang sudah mapan ke AI, mengatakan contohnya, “Apakah keputusan pinjaman dibuat dengan AI atau dengan kertas dan pensil, aturan tetap berlaku sama.”
Beberapa agensi, seperti SEC, bahkan memilih untuk melawan api dengan api, mengembangkan alat AI untuk mendeteksi perilaku perdagangan yang tidak biasa.
“Di satu sisi, kamu mungkin punya lingkungan di mana AI menyebabkan perdagangan yang tidak biasa,” kata Clements.
Di sisi lain, regulator pun jadi lebih siap untuk mendeteksinya juga.
Menurut Dou dan Goldstein, regulator sudah tertarik dengan penelitian mereka. Penelitian ini membantu tunjukkan celah dalam aturan AI untuk layanan keuangan yang ada sekarang. Sebelumnya, saat regulator cari tanda kolusi, mereka cari bukti komunikasi antar orang. Mereka pikir manusia tidak bisa pertahankan perilaku peraturan harga kalau tidak saling berhubungan. Tapi dalam studi Dou dan Goldstein, bot-bot itu tidak punya bentuk komunikasi yang jelas.
“Kalau pakai mesin dengan algoritma pembelajaran penguatan, pemikiran tadi tidak berlaku, karena jelas mereka tidak berkomunikasi atau koordinasi,” kata Goldstein. “Kami yang kodekan dan programkan mereka, dan kami tahu persis apa isi kodenya. Tidak ada yang secara eksplisit bicara tentang kolusi. Tapi lama-lama mereka belajar bahwa ini cara untuk maju.”
Perbedaan cara komunikasi pedagang manusia dan bot di balik layar adalah salah satu “masalah paling mendasar” di mana regulator bisa belajar beradaptasi dengan teknologi AI yang berkembang cepat, kata Goldstein.
“Kalau kita pikirkan kolusi sebagai hasil dari komunikasi dan koordinasi,” katanya, “jelas itu bukan cara berpikir yang tepat saat berhadapan dengan algoritma.”
Versi cerita ini diterbitkan di Fortune.com pada 1 Agustus 2025.
### Lebih lanjut tentang penetapan harga AI:
Ikuti kami di Fortune Workplace Innovation Summit tanggal 19–20 Mei 2026 di Atlanta. Era baru inovasi tempat kerja sudah datang—dan cara lama sedang ditulis ulang. Di acara eksklusif dan penuh energi ini, para pemimpin paling inovatif di dunia akan bertemu untuk jelajahi bagaimana AI, kemanusiaan, dan strategi bersatu untuk definisikan ulang masa depan kerja. **Daftar sekarang.**