Bulan lalu, seorang hakim federal memerintahkan OpenAI untuk menyimpan data ChatGPT tanpa batas waktu sebagai bagian dari gugatan hak cipta yang sedang berlangsung. Sebagai tanggapan, OpenAI mengajukan banding untuk membatalkan keputusan tersebut dengan alasan bahwa perintah "luas dan belum pernah ada sebelumnya" ini melanggar privasi pengguna.
The New York Times menggugat OpenAI dan Microsoft pada 2023, mengklaim bahwa kedua perusahaan melanggar hak cipta dengan menggunakan artikelnya untuk melatih model bahasa mereka. Namun, OpenAI menyatakan bahwa kasus Times "tidak berdasar" dan berargumen bahwa pelatihan tersebut termasuk dalam "penggunaan wajar".
Sebelumnya, OpenAI hanya menyimpan riwayat chat untuk pengguna ChatGPT Free, Plus, dan Pro yang tidak memilih keluar. Namun, pada Mei, Times dan organisasi berita lain mengklaim bahwa OpenAI terlibat dalam penghancuran "signifikan dan berkelanjutan" terhadap riwayat chat yang mungkin mengandung bukti pelanggaran hak cipta. Hakim Ona Wang merespons dengan memerintahkan ChatGPT untuk menyimpan dan memisahkan semua log yang seharusnya dihapus.
Dalam bandingnya, OpenAI berargumen bahwa perintah Wang "menghalangi OpenAI dari menghargai keputusan privasi penggunanya." Menurut Ars Technica, perusahaan juga menyatakan bahwa tuduhan Times "tidak berdasar", menulis, "OpenAI tidak ‘menghancurkan’ data apa pun, dan pastinya tidak menghapus data sebagai respons terhadap litigasi. Perintah tersebut tampaknya salah berasumsi sebaliknya."
COO Brad Lightcap mengatakan dalam pernyataannya, "Times dan penggugat lain membuat tuntutan luas dan tidak perlu dalam gugatan tidak berdasar terhadap kami." Ia menambahkan bahwa permintaan untuk menyimpan semua data "mengabaikan norma privasi lama dan melemahkan perlindungan privasi."
Di X, CEO Sam Altman menulis bahwa "permintaan yang tidak pantas ini… menciptakan preseden buruk." Ia juga menambahkan bahwa kasus ini menunjukkan perlunya "hak istimewa AI" di mana "berbicara dengan AI harus seperti berbicara dengan pengacara atau dokter."
Perintah pengadilan memicu gelombang kepanikan awal. Menurut Ars Technica, berkas pengadilan OpenAI mengutip tanggapan media sosial dari LinkedIn dan X di mana pengguna mengungkapkan kekhawatiran tentang privasi mereka. Di LinkedIn, seseorang memperingatkan kliennya untuk "hati-hati" dengan informasi yang dibagikan ke ChatGPT. Di contoh lain, seseorang men-tweet, "Wang rupanya berpikir kekhawatiran hak cipta boomer NY Times lebih penting dari privasi SETIAP PENGGUNA @OPENAI – gila!!!"
Di satu sisi, sulit membayangkan riwayat ChatGPT menyimpan data yang cukup sensitif sampai seseorang khawatir dibaca orang lain. Namun, banyak orang menggunakan ChatGPT sebagai terapis, untuk nasihat hidup, bahkan memperlakukannya sebagai pasangan romantis. Terlepas dari apakah saya akan melakukan hal yang sama, mereka berhak menjaga konten itu tetap pribadi.
Di sisi lain, kasus Times tidak sepenuhnya tidak berdasar seperti klaim OpenAI. Perlu dibahas bagaimana kecerdasan buatan dilatih. Ingat ketika Clearview AI mengambil 30 miliar gambar dari Facebook untuk melatih pengenalan wajahnya? Atau laporan bahwa pemerintah federal menggunakan gambar orang rentan untuk menguji perangkat lunak pengenalan wajah? Ya, contoh itu ada di luar jurnalisme dan hukum hak cipta. Namun, ini menunjukkan pentingnya diskusi tentang apakah perusahaan seperti OpenAI harus meminta izin eksplisit untuk menggunakan konten alih-alih mengambil apa saja dari internet.