Baru-baru ini aku berlibur di Italia. Seperti yang lazim dilakukan belakangan ini, aku meminta saran itinerary pada GPT-5 untuk rekomendasi tempat wisata dan restoran. Bot tersebut melaporkan bahwa pilihan terbaik untuk makan malam dekat hotel kami di Roma hanya berjarak jalan kaki singkat di Via Margutta. Ternyata itu menjadi salah satu hidangan terlezat yang bisa kuingat.
Sesampainya di rumah, kutanyakan pada model itu bagaimana ia memilih restoran tersebut—yang segan kusebarkan di sini siapa tahu aku butuh meja di masa depan (Nama restorannya adalah Babette. Telepon dulu untuk reservasi.) Jawabannya kompleks dan mengesankan. Di antara faktornya adalah ulasan positif dari warga lokal, pemberitaan di blog kuliner dan media Italia, serta perpaduan masakan Romawi dan kontemporer yang terkenal dari restoran itu. Oh, dan jaraknya yang dekat.
Sesuatu juga diperlukan dariku: kepercayaan. Aku harus yakin bahwa GPT-5 bertindak sebagai perantara yang jujur, memilih restoran tanpa bias; bahwa restoran itu tidak ditampilkan sebagai konten berbayar dan tidak mendapat komisi dariku. Aku bisa saja melakukan riset mendalam untuk memverifikasi rekomendasinya (aku memang membuka situsnya), tetapi justru itulah gunanya AI—untuk menghilangkan hambatan tersebut.
Pengalaman ini meningkatkan kepercayaanku pada hasil AI, namun juga membuatku bertanya-tanya: Seiring perusahaan seperti OpenAI semakin kuat, dan upaya mereka membayar kembali investor, akankah AI rentan terhadap penurunan kualitas yang seolah menjadi hal biasa di aplikasi teknologi saat ini?
Istilah Khusus
Penulis dan kritikus teknologi Cory Doctorow menyebut penurunan itu sebagai “enshittification”. Premisnya adalah bahwa platform seperti Google, Amazon, Facebook, dan TikTok awalnya bertujuan memuaskan pengguna, tapi begitu pesaing terlampaui, mereka sengaja menjadi kurang berguna untuk meraup untung lebih besar. Setelah WIRED menerbitkan kembali esai perintis Doctorow tahun 2022 tentang fenomena ini, istilah itu masuk kosakata umum, terutama karena orang menyadari kebenarannya. “Enshittification” terpilih sebagai Kata Terbaik 2023 oleh American Dialect Society. Konsep ini telah banyak dikutip sehingga melampaui sifat kasarnya, muncul di media yang biasanya akan menghindari kata seperti itu. Doctorow baru saja menerbitkan buku berjudul sama tentang hal ini; gambar sampulnya adalah emoji … coba tebak.
Jika chatbot dan agen AI mengalami enshittification, dampaknya bisa lebih buruk daripada Google Search yang jadi kurang berguna, hasil Amazon yang dipenuhi iklan, bahkan Facebook yang kurang menampilkan konten sosial demi clickbait yang memancing amarah.
AI sedang menuju menjadi pendamping tetap, memberikan jawaban langsung bagi banyak permintaan kita. Orang sudah mengandalkannya untuk memahami peristiwa terkini dan mendapat nasihat berbelanja—bahkan untuk keputusan hidup. Karena biaya pembuatan model AI yang sangat besar, bisa diasumsikan hanya beberapa perusahaan yang akan mendominasi bidang ini. Semuanya berencana menghabiskan ratusan miliar dolar dalam beberapa tahun ke depan untuk meningkatkan model mereka dan menyebarluaskannya. Saat ini, menurutku AI berada pada tahap yang disebut Doctorow “baik kepada pengguna”. Namun tekanan untuk mengembalikan investasi modal yang besar akan sangat hebat—terutama bagi perusahaan dengan basis pengguna yang sudah terkunci. Kondisi itu, tulis Doctorow, memungkinkan perusahaan menyalahgunakan pengguna dan pelanggan bisnis “untuk merebut kembali semua nilai bagi diri mereka sendiri”.
Saat membayangkan enshittification pada AI, hal pertama yang terlintas adalah iklan. Mimpi buruknya adalah model AI akan memberi rekomendasi berdasarkan perusahaan mana yang bayar untuk penempatan. Itu belum terjadi sekarang, tapi perusahaan AI aktif menjelajahi ruang iklan. Dalam wawancara terkini, CEO OpenAI Sam Altman berkata, “Saya yakin mungkin ada produk iklan keren yang bisa kami buat yang menguntungkan pengguna dan positif bagi hubungan kami dengan mereka.” Sementara itu, OpenAI baru saja mengumumkan kerja sama dengan Walmart agar pelanggan retailer itu bisa berbelanja di dalam aplikasi ChatGPT. Sulit dibayangkan adanya konflik di sana! Platform pencarian AI Perplexity punya program di mana hasil sponsor muncul dalam tindak lanjut yang jelas. Tapi, mereka berjanji, “iklan ini tidak akan mengubah komitmen kami untuk menjaga layanan tepercaya yang memberikan jawaban langsung dan tidak bias atas pertanyaan Anda.”