Fable, sebuah aplikasi media sosial populer yang menggambarkan dirinya sebagai tempat perlindungan bagi “pecinta buku dan penonton maraton,” menciptakan fitur ringkasan akhir tahun yang didukung AI yang merangkum buku-buku yang dibaca pengguna pada tahun 2024. Ini dimaksudkan untuk bersifat playful dan menyenangkan, tetapi beberapa ringkasan mengambil nada yang aneh dan penuh perlawanan. Penulis Danny Groves’ ringkasan misalnya, bertanya apakah dia “pernah dalam suasana hati untuk perspektif pria putih cis lurus” setelah menlabelnya sebagai “pengagum keragaman.” Ringkasan influencer buku Tiana Trammell, sementara itu, berakhir dengan saran berikut: “Jangan lupa untuk menyingkap penulis putih sesekali, oke?”Sebuah ringkasan pembaca seperti yang ditunjukkan pada halaman statistik 2024 dari aplikasi Fable.
Ucapan Tiana TrammellTrammell terkejut, dan dia segera menyadari bahwa dia tidak sendirian setelah berbagi pengalaman dengan ringkasan Fable di Threads. “Saya menerima beberapa pesan,” katanya, dari orang-orang yang ringkasannya telah tidak pantas berkomentar tentang “disabilitas dan orientasi seksual.”Sejak debut Spotify Wrapped, fitur ringkasan tahunan telah menjadi lazim di seluruh internet, memberikan pengguna ringkasan tentang berapa banyak buku dan artikel berita yang mereka baca, lagu yang mereka dengarkan, dan latihan yang mereka selesaikan. Beberapa perusahaan sekarang menggunakan AI untuk sepenuhnya memproduksi atau mengubah bagaimana metrik-metrik ini disajikan. Spotify, misalnya, kini menawarkan podcast yang dihasilkan oleh AI di mana robot menganalisis riwayat mendengarkan Anda dan membuat tebakan tentang kehidupan Anda berdasarkan selera Anda. Fable melompat ke trend ini dengan menggunakan API OpenAI untuk menghasilkan ringkasan kebiasaan membaca 12 bulan terakhir bagi pengguna-penggunanya, tetapi tidak mengharapkan bahwa model AI akan mengeluarkan komentar yang mengambil sikap anti-woke.Fable kemudian meminta maaf di beberapa saluran media sosial, termasuk Threads dan Instagram, di mana ia memposting video seorang eksekutif mengeluarkan permintaan maaf. “Kami sangat menyesal atas rasa sakit yang disebabkan oleh beberapa Ringkasan Pembaca kami minggu ini,” tulis perusahaan tersebut dalam keterangan. “Kami akan berbuat lebih baik.”Kimberly Marsh Allee, kepala komunitas Fable, mengatakan kepada WIRED bahwa perusahaan tersebut sedang mengerjakan serangkaian perubahan untuk meningkatkan ringkasan AI-nya, termasuk opsi keluar bagi orang-orang yang tidak menginginkannya dan pengungkapan yang lebih jelas menunjukkan bahwa mereka dihasilkan oleh AI. “Untuk saat ini, kami telah menghapus bagian dari model yang membawakan ringkasan ringan kepada pembaca, dan sebagai gantinya model itu hanya merangkum selera pengguna dalam membaca buku,” katanya.Bagi beberapa pengguna, penyesuaian AI tidak terasa sebagai respons yang memadai. Penulis fantasi dan romansa A.R. Kaufer terkejut ketika dia melihat tangkapan layar beberapa ringkasan di media sosial. “Mereka perlu mengatakan bahwa mereka akan menghapus AI sepenuhnya. Dan mereka perlu mengeluarkan pernyataan, tidak hanya tentang AI, tetapi dengan permintaan maaf kepada mereka yang terkena dampak,” kata Kaufer. “Permintaan maaf ini di Threads terasa tidak tulus, menyebutkan aplikasi ini ‘bermain-main’ seolah-olah itu somehow memaafkan kutipan-kutipan yang rasial/ seksis/ tidak pantas.” Sebagai tanggapan atas insiden ini, Kaufer memutuskan untuk menghapus akun Fable-nya.
Demikian juga Trammell. “Langkah yang tepat adalah menonaktifkan fiturnya dan melakukan uji internal yang ketat, menggabungkan perlindungan yang baru diterapkan untuk memastikan, sebaik mungkin, bahwa tidak ada pengguna platform lain yang terkena dampak,” katanya.
