Perubahan pada Ketentuan Layanan Adobe membuat pengguna bingung dan marah bahwa karyanya – bahkan proyek yang belum dipublikasikan dan sedang berlangsung – dapat digunakan untuk melatih model AI. Pengguna berbagai aplikasi Adobe termasuk Photoshop dan Substance Painter menerima pemberitahuan pop-up pada hari Rabu yang mengatakan “kami dapat mengakses konten Anda melalui metode manual dan otomatis, seperti untuk tinjauan konten.”
Bagian yang diperbarui (yang mulai berlaku sejak 17 Februari 2024) dalam Ketentuan Layanan Adobe mengatakan: “Sistem otomatis kami dapat menganalisis Konten dan Font Pelanggan Creative Cloud (didefinisikan dalam bagian 3.10 (Font Pelanggan Creative Cloud) di bawah) Anda menggunakan teknik seperti machine learning untuk memperbaiki Layanan dan Perangkat Lunak kami dan pengalaman pengguna.” Bahasa yang digunakan agak samar. Tetapi penyebutan khusus tentang “sistem otomatis” dan penggunaan “machine learning untuk memperbaiki Layanan dan Perangkat Lunak kami” segera menimbulkan kekhawatiran bahwa karya kreatif pengguna akan digunakan sebagai data pelatihan untuk alat AI Adobe.
Selain implikasi bahwa semua konten pengguna akan menjadi bahan pelatihan tanpa pengakuan atau kompensasi, ada kekhawatiran privasi khusus bagi pengguna yang bekerja dengan informasi rahasia. “Saya tidak bisa menggunakan Photoshop kecuali saya setuju dengan Anda memiliki akses penuh ke semua yang saya buat dengannya, TERMASUK pekerjaan NDA?” posting seniman @SamSantala di X.
Pada halaman terpisah yang memecah bagaimana Adobe menggunakan machine learning, Adobe mengatakan bahwa mereka tidak menggunakan konten yang disimpan secara lokal di perangkat Anda, jadi hanya konten yang disimpan di Creative Cloud. Sebaliknya, konten yang dibuat pengguna menjadi publik, seperti kontribusi ke Adobe Stock, pengiriman untuk ditampilkan di Adobe Express dan untuk digunakan sebagai tutorial di Lightroom digunakan untuk “melatih algoritma kami dan dengan demikian meningkatkan produk dan layanan kami.”
Penggunaan konten publik tersebut telah ada sejak Adobe meluncurkan model AI Firefly, yang menghasilkan gambar dan menggerakkan fitur AI lainnya seperti Generative Fill. Adobe mempromosikan Firefly sebagai aman secara komersial, tetapi juga mengatakan bahwa Firefly dilatih dengan data domain publik, yang mencakup gambar yang dihasilkan oleh AI dari pesaingnya Midjourney – produk yang artis klaim sebagai hasil pelanggaran hak cipta.
Semua itu untuk mengatakan, pengumpulan data pelatihan untuk model AI adalah masalah yang rumit yang membuat sulit bagi kreatif dan perusahaan untuk melacak konten berhak cipta dan mencegah karya tanpa izin dari meresap ke dalam pelatihan model. Dan itu telah merusak penyebaran fitur AI yang diduga etis dari Adobe dan mengancam kepercayaan pelanggan.
Untuk lebih jelasnya, perubahan kebijakan terbaru Adobe belum secara pasti menunjukkan bahwa pengguna terkena invasi privasi, tetapi pengguna wajar khawatir bahkan hanya mendapat petunjuk bahwa karya pribadi mereka mungkin dapat diakses oleh model AI Adobe. Ketentuan Layanan baru tidak menyebutkan secara eksplisit Firefly atau data pelatihan AI, tetapi pembaruan mengatakan bahwa Adobe mungkin perlu mengakses konten pengguna untuk “mendeteksi, mencegah, atau menangani penipuan, keamanan, masalah hukum, atau teknis,” dan menegakkan Ketentuannya yang melarang konten ilegal atau abusive seperti materi pelecehan seksual anak.
Ini mungkin berarti bahwa Adobe berusaha memantau akses konten pengguna untuk pelanggaran tertentu. Tetapi bahasa yang digunakan, termasuk alusi umum pada machine learning untuk “memperbaiki” alat Adobe, mengetuk konsep yang disadari privasi di saat yang sangat sensitif. Mashable telah menghubungi Adobe untuk klarifikasi dan akan memperbarui cerita ini jika kami mendengar balikannya.