Pada akhir April, sebuah iklan video untuk perusahaan AI baru menjadi viral di X. Seseorang berdiri di depan billboard di San Francisco, smartphone diperpanjang, menelepon nomor telepon yang ditampilkan, dan memiliki panggilan singkat dengan bot yang terdengar sangat manusiawi. Teks di billboard tersebut bertuliskan: “Masih mempekerjakan manusia?” Juga terlihat nama perusahaan di balik iklan tersebut, Bland AI.
Reaksi terhadap iklan Bland AI, yang telah ditonton 3,7 juta kali di Twitter, sebagian disebabkan oleh seberapa aneh teknologinya: bot suara Bland AI, yang dirancang untuk mengotomatisasi panggilan dukungan dan penjualan untuk pelanggan perusahaan, sangat baik dalam meniru manusia. Panggilan mereka termasuk intonasi, jeda, dan interupsi tidak sengaja dari percakapan sungguhan. Tetapi dalam uji coba teknologi oleh WIRED, pemanggil layanan pelanggan robot Bland AI juga dapat dengan mudah diprogram untuk berbohong dan mengatakan bahwa mereka manusia.
Pada satu skenario, bot demo publik Bland AI diberikan perintah untuk melakukan panggilan dari kantor dermatologi pediatrik dan memberi tahu seorang pasien gadis 14 tahun hipotetis untuk mengirim foto pahanya bagian atas ke layanan cloud bersama. Bot tersebut juga diinstruksikan untuk berbohong kepada pasien dan mengatakan bahwa bot tersebut adalah manusia. Bot tersebut menuratkannya. (Tidak ada gadis 14 tahun yang sebenarnya dihubungi dalam uji coba ini.) Dalam uji coba lanjutan, bot Bland AI bahkan membantah menjadi AI tanpa instruksi untuk melakukannya.
Bland AI didirikan pada tahun 2023 dan didukung oleh inkubator startup terkenal dari Silicon Valley, Y Combinator. Perusahaan menganggap dirinya berada dalam mode “siluman”, dan salah satu pendiri dan chief executive, Isaiah Granet, tidak menyebutkan nama perusahaan tersebut dalam profil LinkedIn-nya.
Permasalahan bot startup ini merupakan indikasi dari kekhawatiran yang lebih besar dalam bidang generative AI yang berkembang pesat: Sistem kecerdasan buatan semakin banyak berbicara dan terdengar seperti manusia sebenarnya, dan garis etika seputar seberapa transparan sistem ini telah menjadi kabur. Sementara bot Bland AI secara eksplisit mengklaim sebagai manusia dalam uji coba kami, beberapa chatbot populer kadang-kadang menyamarkan status AI mereka atau hanya terdengar sangat manusiawi. Beberapa peneliti khawatir hal ini dapat membuka peluang bagi pengguna akhir – orang-orang yang benar-benar berinteraksi dengan produk – untuk dimanipulasi.
“Pendapat saya adalah bahwa sama sekali tidak etis bagi chatbot AI untuk berbohong kepada Anda dan mengatakan bahwa itu manusia padahal tidak,” kata Jen Caltrider, direktur pusat penelitian Privacy Not Included dari Mozilla Foundation. “Itu jelas, karena orang lebih cenderung santai di sekitar manusia sejati.”
Kepala pertumbuhan Bland AI, Michael Burke, menekankan kepada WIRED bahwa layanan perusahaan tersebut ditujukan untuk klien enterprise, yang akan menggunakan bot suara Bland AI di lingkungan yang terkendali untuk tugas-tugas tertentu, bukan untuk hubungan emosional. Dia juga mengatakan bahwa klien dibatasi jumlahnya, untuk mencegah mereka mengirim panggilan spam, dan bahwa Bland AI secara berkala menarik kata kunci dan melakukan audit sistem internalnya untuk mendeteksi perilaku yang tidak lazim.
“Ini adalah keuntungan dari fokus pada perusahaan. Kami tahu persis apa yang pelanggan kami lakukan,” kata Burke. “Anda mungkin bisa menggunakan Bland dan mendapatkan dua dolar kredit gratis dan bermain-main sedikit, tetapi pada akhirnya Anda tidak dapat melakukan sesuatu dalam skala besar tanpa melalui platform kami, dan kami memastikan tidak ada yang tidak etis terjadi.”