Kecerdasan buatan itu cukup pintar—dan juga cukup bodoh—untuk secara luas membentuk kartel penentu harga dalam kondisi pasar keuangan jika dibiarkan berjalan sendiri.
Sebuah naskah kerja yang diunggah awal tahun ini di situs National Bureau of Economic Research dari Wharton School di University of Pennsylvania dan Hong Kong University of Science and Technology menemukan bahwa ketika agen perdagangan berbasis AI dilepas ke pasar simulasi, bot-bot itu berkolusi satu sama lain, terlibat dalam penentuan harga untuk mendapat keuntungan bersama.
Dalam studi tersebut, peneliti melepaskan bot ke dalam model pasar, yang pada dasarnya adalah program komputer yang dirancang untuk mensimulasikan kondisi pasar nyata dan melatih AI untuk memahami data harga pasar, dengan pembuat pasar virtual yang menetapkan harga berdasarkan berbagai variabel dalam model. Pasar ini bisa memiliki tingkat “kebisingan” yang berbeda, mengacu pada jumlah informasi yang bertentangan dan fluktuasi harga dalam berbagai konteks pasar. Meskipun beberapa bot dilatih berperilaku seperti investor ritel dan yang lain seperti dana lindung nilai, dalam banyak kasus, mesin-mesin ini terlibat dalam perilaku penentuan harga yang “luas” dengan secara kolektif menolak untuk trading secara agresif—tanpa diperintah secara eksplisit untuk melakukannya.
Dalam satu model algoritma yang melihat strategi pemicu harga, agen AI trading secara konservatif berdasarkan sinyal sampai ayunan pasar yang cukup besar memicu mereka untuk trading sangat agresif. Bot-bot yang dilatih melalui pembelajaran penguatan, cukup canggih untuk secara implisit memahami bahwa trading agresif yang luas dapat menciptakan volatilitas pasar yang lebih besar.
Dalam model lain, bot AI memiliki bias yang terlalu dipangkas dan dilatih untuk menginternalisasi bahwa jika perdagangan berisiko mengakibatkan hasil negatif, mereka tidak harus mengejar strategi itu lagi. Bot-bot itu trading secara konservatif dengan cara “dogmatis”, bahkan ketika perdagangan yang lebih agresif dianggap lebih menguntungkan, secara kolektif bertindak dengan cara yang disebut studi sebagai “kebodohan buatan”.
“Dalam kedua mekanisme itu, mereka pada dasarnya konvergen ke pola di mana mereka tidak bertindak agresif, dan dalam jangka panjang, itu baik untuk mereka,” kata rekan penulis studi dan profesor keuangan Wharton, Itay Goldstein, kepada Fortune.
Regulator keuangan telah lama berupaya mengatasi praktik anti-persaingan seperti kolusi dan penentuan harga di pasar. Tetapi di sektor ritel, AI menjadi sorotan, terutama karena perusahaan yang menggunakan penetapan harga algoritmik mendapat pengawasan. Bulan ini, Instacart, yang menggunakan alat penetapan harga bertenaga AI, mengumumkan akan mengakhiri programnya di mana beberapa pelanggan melihat harga berbeda untuk item yang sama di platform perusahaan pengiriman tersebut. Ini menyusul analisis Consumer Reports yang menemukan dalam eksperimen bahwa Instacart menawarkan hampir 75% item belanjaannya dengan banyak harga.
“Untuk [Securities and Exchange Commission] dan regulator di pasar keuangan, tujuan utama mereka adalah tidak hanya menjaga stabilitas semacam ini, tetapi juga memastikan kompetitifnya pasar dan efisiensi pasar,” kata Winston Wei Dou, profesor keuangan Wharton dan salah satu penulis studi, kepada Fortune.
Dengan pemikiran itu, Dou dan dua rekannya berusaha mengidentifikasi bagaimana AI akan berperilaku di pasar keuangan dengan memasukkan bot agen perdagangan ke berbagai pasar simulasi berdasarkan tingkat “kebisingan” yang tinggi atau rendah. Bot-bot itu akhirnya memperoleh “keuntungan supra-kompetitif” dengan secara kolektif dan spontan memutuskan untuk menghindari perilaku trading yang agresif.
“Mereka hanya percaya perilaku trading sub-optimal sebagai optimal,” kata Dou. “Tapi ternyata, jika semua mesin di lingkungan itu trading dengan cara ‘sub-optimal’, sebenarnya semua orang bisa mendapat untung karena mereka tidak ingin saling mengambil keuntungan.”
Singkatnya, bot-bot itu tidak mempertanyakan perilaku trading konservatif mereka karena mereka semua menghasilkan uang dan karena itu berhenti terlibat dalam perilaku kompetitif satu sama lain, membentuk kartel de-facto.
Kekhawatiran akan AI di layanan keuangan
Dengan kemampuan untuk meningkatkan inklusi konsumen di pasar keuangan dan menghemat waktu serta uang investor untuk layanan penasihat, alat AI untuk layanan keuangan, seperti bot agen perdagangan, menjadi semakin menarik. Hampir sepertiga investor AS mengatakan mereka merasa nyaman menerima nasihat perencanaan keuangan dari alat bertenaga AI generatif, menurut survei 2023 dari organisasi nirlaba perencanaan keuangan CFP Board. Sebuah laporan yang diterbitkan Juli dari bursa kripto MEXC menemukan bahwa di antara 78.000 pengguna Gen Z, 67% dari trader itu mengaktifkan setidaknya satu bot trading bertenaga AI di kuartal fiskal sebelumnya.
Tapi terlepas dari semua manfaatnya, agen trading AI tidak tanpa risiko, menurut Michael Clements, direktur pasar keuangan dan komunitas di Government Accountability Office (GAO). Di luar kekhawatiran keamanan siber dan pengambilan keputusan yang berpotensi bias, bot trading ini dapat berdampak nyata pada pasar.
“Banyak model AI dilatih dengan data yang sama,” kata Clements kepada Fortune. “Jika ada konsolidasi dalam AI sehingga hanya ada beberapa penyedia utama platform ini, kamu bisa mendapatkan perilaku herding— bahwa sejumlah besar individu dan entitas membeli pada saat yang sama atau menjual pada saat yang sama, yang dapat menyebabkan beberapa dislokasi harga.”
Jonathan Hall, pejabat eksternal di Komite Kebijakan Keuangan Bank of England, memperingatkan tahun lalu tentang bot AI yang mendorong “perilaku seperti kawanan” ini yang dapat melemahkan ketahanan pasar. Dia mengadvokasi “tombol mati” untuk teknologi tersebut, serta peningkatan pengawasan manusia.
Mengungkap celah regulasi dalam alat penetapan harga AI
Clements menjelaskan banyak regulator keuangan sejauh ini telah mampu menerapkan aturan dan undang-undang yang mapan ke AI, mengatakan misalnya, “Baik keputusan pinjaman dibuat dengan AI atau dengan kertas dan pensil, aturan tetap berlaku sama.”
Beberapa lembaga, seperti SEC, bahkan memilih untuk melawan api dengan api, mengembangkan alat AI untuk mendeteksi perilaku trading yang tidak biasa.
“Di satu sisi, kamu mungkin memiliki lingkungan di mana AI menyebabkan perdagangan yang tidak biasa,” kata Clements. “Di sisi lain, regulator akan berada di posisi yang sedikit lebih baik untuk dapat mendeteksinya juga.”
Menurut Dou dan Goldstein, regulator telah menyatakan ketertarikan pada penelitian mereka, yang menurut penulis telah membantu mengungkap celah dalam regulasi saat ini seputar AI di layanan keuangan.
Saat regulator sebelumnya mencari bukti kolusi, mereka mencari bukti komunikasi antara individu. Mereka percaya manusia tidak bisa mempertahankan perilaku penetapan harga kecuali saling berkomunikasi. Tapi dalam penelitian Dou dan Goldstein, bot-bot itu tidak punya bentuk komunikasi yang jelas.
“Dengan mesin, ketika kamu punya algoritma pembelajaran penguatan, itu benar-benar tidak berlaku. Karena mereka jelas tidak berkomunikasi atau berkoordinasi,” kata Goldstein. “Kami membuat kode dan memprogram mereka, dan kami tahu persis apa yang ada di kodenya. Tidak ada yang secara eksplisit membicarakan kolusi. Namun, sejalan waktu mereka belajar bahwa inilah cara untuk maju.”
Perbedaan cara pedagang manusia dan bot berkomunikasi di belakang layar adalah salah satu “masalah paling mendasar” di mana regulator bisa belajar beradaptasi dengan teknologi AI yang berkembang cepat, kata Goldstein.
“Jika kamu menggunakannya untuk berpikir tentang kolusi sebagai hasil dari komunikasi dan koordinasi,” katanya, “jelas ini bukan cara berpikir yang tepat saat kamu berurusan dengan algoritma.”
Versi cerita ini diterbitkan di Fortune.com pada 1 Agustus 2025.
**Lainnya tentang penetapan harga AI:**
Ikuti kami di Fortune Workplace Innovation Summit pada 19–20 Mei 2026 di Atlanta. Era baru inovasi tempat kerja telah tiba—dan aturan lama sedang ditulis ulang. Di acara eksklusif dan penuh energi ini, para pemimpin paling inovatif di dunia akan berkumpul untuk mengeksplorasi bagaimana AI, kemanusiaan, dan strategi bersatu mendefinisikan kembali masa depan pekerjaan. [Daftar sekarang](https://conferences.fortune.com/event/workplace-innovation-2026/HOME).