Gugatan oleh The New York Times dan media lain terhadap OpenAI atas penggunaan materi berhak cipta tanpa izin untuk melatih model AI merupakan bentrokan terbaru dalam perjuangan bertahun-tahun antara penerbit berita dan Big Tech. Perusahaan teknologi telah melihat kesuksesan besar dalam menginnovasi dan memperluas produk digital, seringkali dengan menggunakan konten “dipinjam” dari penerbit. Platform seperti Google, Facebook, dan X menggunakan berita untuk mendapatkan dan melibatkan pengguna di platform mereka sambil melacak setiap detail tentang perilaku dan minat pengguna tersebut. Skala dan ketepatan data konsumen ini merupakan ladang emas, terutama jika digunakan untuk menargetkan iklan yang tepat kepada orang yang tepat pada saat yang tepat. Penerbit-penerbit hanya belum bisa bersaing dalam kontes untuk dolar iklan.
Sementara itu, banjir informasi salah dan disinformasi di Internet, dan promosi konten yang memicu emosi oleh platform teknologi yang mendorong klik, telah merusak kepercayaan konsumen terhadap media. Hasilnya telah menjadi bencana bagi industri berita.
Sekarang, Big Tech menghadapi krisis kepercayaan mereka sendiri. Meskipun potensi manfaat dari AI sangat besar, 86% konsumen berpikir bahwa perusahaan seharusnya bekerja sama untuk menetapkan standar dan praktik yang jelas dan seragam untuk penggunaan AI. Selain itu, menurut penelitian terbaru oleh Pew Research Center, konsumen yang paling khawatir cenderung berhenti menggunakan perangkat digital, situs web, atau aplikasi sama sekali karena kekhawatiran tentang bagaimana informasi pribadi mereka digunakan. Kita dapat mengharapkan tren ini akan terus berlanjut dengan ledakan konten yang dihasilkan AI dan integrasinya ke dalam berbagai aktivitas sehari-hari. Secara keseluruhan, konsumen mengatakan bahwa mereka menginginkan privasi data, pilihan dan kontrol atas bagaimana data mereka digunakan, dan pertanggungjawaban dari perusahaan dalam penggunaan data mereka.
Untuk memaksimalkan nilai inovasi AI bagi bisnis dan masyarakat sambil meminimalkan kerugian bagi individu dan nilai bersama, teknologi harus mengatasi kekhawatiran serius ini. Dan mungkin mereka bisa mengambil contoh dari buku mereka sendiri: Pinjam dari media berita.
Perusahaan media seperti BBC, tempat saya bekerja, telah mengembangkan kerangka kerja yang luas untuk mengidentifikasi akar krisis kepercayaan dalam jurnalisme dan untuk mengatasi kekhawatiran audiens. Unit Verifikasi Berita BBC didirikan setelah penelitian mengungkapkan lima harapan konsumen dari organisasi berita: keadilan, transparansi, rasa hormat, kejelasan, dan keberanian. Kami menerapkan prinsip-prinsip ini dalam seluruh proses pembuatan berita kami. Big Tech juga bisa menerapkan prinsip-prinsip ini.
Dalam berita, keadilan adalah tentang keseimbangan. Jurnalis kami meneliti semua aspek suatu masalah dan menyajikan berbagai perspektif, dengan memberikan bobot yang tepat pada berbagai sisi dan lapisan nuansa. Apakah kami selalu benar 100% dari waktu? Tidak, tetapi kami transparan dan memberikan koreksi ketika terjadi kesalahan. Kami menghormati kecerdasan audiens kami dengan tidak meremehkan mereka dan kami menghormati waktu mereka dengan menghindari clickbait dan trik lainnya. Kami menjelaskan topik yang rumit dan memotong kekacauan untuk menjelaskan isu-isu kunci dan konteks.
Bagaimana Big Tech bisa mengadopsi prinsip-prinsip ini
Pada prinsip keadilan, perusahaan teknologi dapat memastikan model AI dilatih dari sumber yang seimbang dan tidak miring ke perspektif kelompok berprivilese atau memperpetuasi bias sosial. Ini penting agar kita tidak mengulang kesalahan masa lalu. Contoh sejarahnya banyak: Sebuah penyelidikan oleh ProPublica pada tahun 2016 menemukan bahwa perangkat lunak COMPAS, yang banyak digunakan oleh pengadilan untuk memprediksi kemungkinan seseorang melakukan kejahatan di masa depan dan menentukan hukuman, secara keliru mengklasifikasikan individu berkulit hitam sebagai kejahatan di masa depan dua kali lipat dari rekan-rekan mereka yang berkulit putih; Amazon harus menghentikan penggunaan perangkat lunak rekrutmen yang menunjukkan bias gender; IBM, Amazon, dan Microsoft menjual perangkat lunak pengenalan wajah kepada departemen kepolisian, yang kurang akurat untuk individu non-putih.
Mereka juga dapat lebih transparan dengan publik tentang bagaimana mereka menggunakan informasi pribadi dan data lainnya untuk menggerakkan model mereka atau mempengaruhi hasil. Mereka dapat berkomunikasi dengan jelas–dalam bahasa yang sederhana dan dengan ukuran font yang mudah dibaca–data pengguna yang mereka kumpulkan, bagaimana mereka menggunakannya, dengan siapa mereka akan berbagi, dan berapa lama mereka berencana menyimpannya.
Sebagian besar pengguna Internet (90%) percaya bahwa kita seharusnya memiliki pilihan dan kontrol atas data kita. Kami ingin perusahaan menghormati kami sebagai manusia. Kami adalah orang, bukan ladang data pasif. Itulah mengapa organisasi yang berdedikasi untuk teknologi yang baik seperti Institut Ada Lovelace dan Proyek Teknologi Etis, di dewan mana saya melayani, merekomendasikan “agen dan otonomi” sebagai prinsip panduan bagi perusahaan teknologi yang menerapkan praktik privasi data yang lebih baik.
Orang mengharapkan institusi yang mereka percayai untuk melakukan hal yang benar. Itu butuh keberanian. Bagi jurnalis, itu berarti mempertanggungjawabkan kekuasaan, mengajukan pertanyaan sulit, pergi ke tempat-tempat berbahaya dan membawa kembali berita, memastikan ada saksi sejarah. Bagi perusahaan AI, prinsip ini mungkin berlaku untuk pertanyaan yang lebih eksistensial: menyeimbangkan otomatisasi dengan wawasan manusia, menjadi terbuka dan jujur tentang kemajuan menuju Kecerdasan Buatan Umum (AGI), dan membuat keputusan kepemimpinan nontradisional–memastikan ada input antar disiplin di dewan direksi dan di dewan direksi.
Jelas, baik penerbitan maupun Big Tech berada pada titik balik–satu sama lain dan masyarakat yang mereka layani. Tetapi praktik data etis bukan hanya tentang melakukan kebaikan, tetapi juga tentang melakukan bisnis yang baik. Kita semua harus bekerja untuk melindungi apa yang paling berharga: kepentingan bisnis, ya, tetapi juga agensi individu, nilai bersama, dan institusi yang memupuk masyarakat yang stabil, terbuka, adil, dan demokratis.
Jennie Baird adalah Chief Product Officer dari BBC Studios dan sebelumnya memimpin bisnis Berita Digital Global dan Streaming perusahaan tersebut. Dia adalah anggota dewan The Ethical Tech Project.