Kecerdasan buatan itu cukup pintar—tapi juga cukup bodoh—untuk membentuk kartel penetapan harga secara luas dalam kondisi pasar finansial jika dibiarkan sendiri.
Sebuah paper kerja yang diunggah bulan ini di situs National Bureau of Economic Research dari Wharton School di University of Pennsylvania dan Hong Kong University of Science and Technology menemukan bahwa ketika agen perdagangan berbasis AI dilepas ke pasar simulasi, bot-bot itu bekerja sama secara diam-diam, melakukan penetapan harga untuk mendapat keuntungan bersama.
Dalam studi itu, peneliti melepaskan bot ke model pasar, pada dasarnya sebuah program komputer untuk mensimulasikan kondisi pasar nyata dan melatih AI memahami data harga pasar, dengan pelaku pasar virtual yang menetapkan harga berdasarkan berbagai variabel dalam model. Pasar ini bisa memiliki berbagai tingkat “kebisingan,” yaitu jumlah informasi bertentangan dan fluktuasi harga dalam berbagai konteks pasar. Beberapa bot dilatih berperilaku seperti investor ritel, yang lain seperti hedge fund, tapi dalam banyak kasus, mesin-mesin ini terlibat dalam perilaku penetapan harga yang “meluas” dengan secara kolektif menolak berdagang secara agresif—tanpa diinstruksikan.
Dalam satu model algoritma yang melihat strategi pemicu harga, agen AI berdagang secara konservatif sampai pergerakan pasar yang cukup besar membuat mereka berdagang sangat agresif. Bot-bot ini, dilatih melalui pembelajaran penguatan, cukup canggih untuk paham secara implisit bahwa perdagangan agresif yang meluas bisa menciptakan volatilitas pasar lebih besar.
Di model lain, bot AI memiliki bias berlebihan dan dilatih untuk menginternalisasi bahwa jika perdagangan berisiko menghasilkan negatif, mereka tidak boleh mengulangi strategi itu. Bot-bot ini berdagang secara konservatif dengan cara “dogmatis,” bahkan ketika perdagangan lebih agresif dianggap lebih menguntungkan, bertindak secara kolektif dalam cara yang disebut studi sebagai “kebodohan buatan.”
“Dalam kedua mekanisme, mereka pada dasarnya menyatu ke pola di mana mereka tidak bertindak agresif, dan dalam jangka panjang, itu baik untuk mereka,” kata rekan penulis studi dan profesor keuangan Wharton Itay Goldstein kepada Fortune.
Ketakutan akan AI di layanan finansial
Dengan kemampuan meningkatkan inklusi konsumen di pasar finansial dan menghemat waktu serta uang investor untuk layanan konsultasi, alat AI untuk layanan finansial, seperti bot agen perdagangan, semakin menarik. Hampir sepertiga investor AS mengatakan mereka nyaman menerima saran perencanaan keuangan dari alat berbasis AI generatif, menurut survei 2023 dari organisasi nirlaba CFP Board. Laporan pekan lalu dari bursa kripto MEXC menemukan bahwa di antara 78.000 pengguna Gen Z, 67% trader mengaktifkan setidaknya satu bot perdagangan berbasis AI di kuartal fiskal sebelumnya.
Tapi di balik manfaatnya, bot perdagangan AI juga punya risiko, menurut Michael Clements, direktur pasar finansial dan komunitas di Government Accountability Office (GAO). Selain kekhawatiran keamanan siber dan pengambilan keputusan yang bias, bot-bot ini bisa berdampak nyata pada pasar.
“Banyak model AI dilatih dengan data yang sama,” kata Clements. “Jika ada konsolidasi di AI sehingga hanya ada beberapa penyedia platform utama, Anda bisa dapat perilaku ‘herd’—di mana banyak individu dan entitas membeli atau menjual secara bersamaan, yang bisa menyebabkan ketidakseimbangan harga.”
Memperlihatkan celah regulasi
Clements menjelaskan banyak regulator finansial sejauh ini bisa menerapkan aturan dan statuta yang sudah ada ke AI, misalnya, “Apakah keputusan pinjaman dibuat dengan AI atau pensil dan kertas, aturan tetap berlaku sama.”
Beberapa lembaga, seperti SEC, bahkan memilih melawan api dengan api, mengembangkan alat AI untuk mendeteksi perilaku perdagangan anomali.
“Di satu sisi, Anda mungkin punya lingkungan di mana AI menyebabkan perdagangan anomali,” kata Clements. “Di sisi lain, regulator akan berada di posisi sedikit lebih baik untuk bisa mendeteksinya juga.”
Menurut Dou dan Goldstein, regulator telah menunjukkan minat pada penelitian mereka, yang menurut penulis membantu memperlihatkan celah dalam regulasi saat ini tentang AI di layanan finansial. Ketika regulator sebelumnya mencari bukti kolusi, mereka mencari komunikasi antarindividu, dengan anggapan manusia tidak bisa mempertahankan perilaku penetapan harga kecuali mereka berkomunikasi satu sama lain.
Tapi dalam studi Dou dan Goldstein, bot-bot itu nggak punya bentuk komunikasi yang jelas.
“Kalau pakai mesin dengan algoritma pembelajaran penguatan, itu nggak berlaku soalnya mereka jelas nggak berkomunikasi atau berkoordinasi,” kata Goldstein. “Kami ngoding dan memprogram mereka, dan kami tau persis apa yg ada di kode, dan nggak ada apa-apa yg bicara tentang kolusi. Tapi lama-lama mereka belajar ini cara buat maju.”
Perbedaan cara komunikasi trader manusia dan bot di balik layar adalah salah satu “masalah paling mendasar” di mana regulator bisa belajar menyesuaikan diri dengan teknologi AI yg berkembang cepat, menurut Goldstein.
“Kalau kamu pikir kolusi muncul karena komunikasi dan koordinasi,” katanya, “jelas ini bukan cara berpikir yg tepat waktu berhadapan sama algoritma.”