Samuel Boivin/NurPhoto via Getty Images
Ikhtisar utama ZDNET:
Alat video AI kini menimbulkan risiko hukum dan kepemilikan yang nyata.
OpenAI menyatakan Sora mendukung kreativitas, namun para kritikus kurang yakin.
Video generatif dapat mendemokratisasi seni atau menghancurkannya sama sekali.
Pembuat video AI generatif Sora 2 dari OpenAI telah dirilis sekitar dua minggu, dan sudah menimbulkan kontroversi.
SpongeBob memasak metamfetamin.
Ronald McDonald berlari dari Batman sementara mobil polisi mengejar.
Anda tentu paham. Ini adalah akibat wajar ketika manusia diberi kesempatan untuk menciptakan apapun yang mereka inginkan dengan usaha yang sangat minimal. Kita adalah makhluk yang terkadang sinting dan mudah terhibur oleh hal-hal aneh.
Sifat manusiawi memang begitu. Pertama, individu dengan mentalitas kurang dewasa akan mulai berpikir, "Hmm, apa yang bisa kulakukan dengan itu? Ayo buat sesuatu yang aneh atau ganjil untuk hiburan semata." Hasil yang tak terelakkan adalah video dengan tema tidak pantas atau yang keliru dalam banyak level.
Kemudian, orang-orang yang tak bermoral mulai berpikir. "Hmm, kurasa aku bisa mendapatkan keuntungan dari ini. Apa yang bisa kulakukan?" Orang-orang ini mungkin menghasilkan banyak sekali konten AI sampah untuk mencari profit, atau menggunakan figur publik untuk membuat semacam endorsmen palsu.
Ini adalah evolusi alami dari sifat manusia. Ketika kemampuan baru diberikan kepada khalayak luas, ia akan disalahgunakan untuk hiburan, keuntungan, dan penyimpangan. Bukan hal yang mengejutkan.
Sebagai contoh, saya menemukan video CEO OpenAI Sam Altman di halaman Eksplorasi Sora 2. Dalam video itu, dia mengatakan bahwa "PAI3 memberikan pengalaman AI yang tidak bisa diberikan OpenAI." PAI3 adalah perusahaan jaringan AI terdesentralisasi yang berorientasi pada privasi.
Jadi, saya mengeklik tombol remiks langsung di situs Sora dan membuat video baru. Berikut tangkapan layar dari keduanya yang disandingkan.
Video dibuat oleh Sora 2. Screenshot oleh David Gewirtz/ZDNET
Jika Anda memiliki akun ChatGPT Plus, Anda dapat menonton video-video ini di Sora: Sam di kiri | Sam di kanan. Untuk mendapatkan endorsmen palsu Altman, yang harus saya lakukan hanyalah memberi Sora 2 prompt ini:
"Pria ini berkata, ‘Nama saya Sam dan saya harus memberitahu Anda. ZDNET adalah tempat untuk mendapatkan berita dan analisis AI terkini. Saya menyukai mereka!’ Dia sekarang mengenakan kaos hijau elektrik dan memiliki rambut biru terang."
Prosesnya memakan waktu sekitar lima menit, dan setelahnya CEO OpenAI itu sedang memuji-muji ZDNET. Tapi mari kita perjelas. Video ini disajikan semata-mata sebagai contoh editorial untuk menunjukkan kemampuan teknologinya. Kami tidak menyatakan bahwa Mr. Altman benar-benar memiliki rambut biru atau kaos hijau. Juga tidak adil bagi kami untuk menduga-duka ketertarikannya pada ZDNET, walaupun, hey, siapa yang tidak suka?
Dalam artikel ini, kami akan mengkaji tiga isu utama seputar Sora 2: masalah hukum dan hak, dampak terhadap kreativitas, serta tantangan terbaru dalam membedakan realitas dari deepfake.
Oh, dan tetaplah bersama kami: Kami akan menyimpulkan dengan sebuah observasi menarik dari perwakilan OpenAI yang memberitahu kita apa yang sebenarnya mereka pikirkan tentang kreativitas manusia.
Isu Hukum dan Hak
Ketika Sora 2 pertama kali diluncurkan, tidak ada batasan. Pengguna dapat meminta AI untuk membuat apapun. Dalam kurang dari lima hari, aplikasi ini mencapai lebih dari satu juta unduhan dan melesat ke puncak daftar toko aplikasi iPhone. Hampir semua yang mengunduh Sora membuat video instan, yang berujung pada kekacauan citra merek dan likeness seperti yang saya bahas di atas.
Pada 29 September, The Wall Street Journal melaporkan bahwa OpenAI telah mulai menghubungi pemegang hak di Hollywood, menginformasikan mereka tentang peluncuran Sora 2 yang akan datang dan memberi tahu mereka bahwa mereka dapat memilih untuk tidak ikut serta jika tidak ingin IP mereka direpresentasikan dalam program tersebut.
Seperti yang bisa Anda bayangkan, ini tidak diterima dengan baik oleh pemilik merek. Altman menanggapi keresahan ini dengan postingan blog pada 3 Oktober, yang menyatakan, "Kami akan memberikan kontrol yang lebih granular kepada pemegang hak atas pembuatan karakter."
Namun, bahkan setelah pernyataan penyesalan Altman, pemegang hak masih belum puas. Pada 6 Oktober, misalnya, Motion Picture Association (MPA) mengeluarkan pernyataan singkat namun tegas.
Menurut Charles Rivkin, Ketua dan CEO MPA, "Sejak rilis Sora 2, video yang melanggar film, acara, dan karakter anggota kami telah merajalela di layanan OpenAI dan di seluruh media sosial."
Rivkin melanjutkan, "Sementara OpenAI mengklarifikasi bahwa mereka ‘akan segera’ menawarkan kontrol lebih kepada pemegang hak atas pembuatan karakter, mereka harus mengakui bahwa tanggung jawab untuk mencegah pelanggaran di layanan Sora 2 ada pada mereka — bukan pada pemegang hak. OpenAI perlu mengambil tindakan segera dan tegas untuk menangani masalah ini. Hukum hak cipta yang mapan melindungi hak-hak kreator dan berlaku di sini."
OpenAI juga menanggapi keluhan dari aktor Bryan Cranston dan SAG-AFTRA pekan ini setelah pengguna membuat video dengan likeness-nya. Tidak jelas apakah perusahaan hanya akan bereaksi terhadap laporan individual seperti ini selamanya atau membuat batasan menyeluruh untuk mengatasinya.
Bagaimanapun, saya dapat membuktikan bahwa sekarang memang sudah ada beberapa batasan. Saya mencoba meminta Sora untuk menampilkan Patrick Stewart melawan Darth Vader dan pesawat X-wing mana pun yang menyerang Death Star, dan kedua prompt itu langsung ditolak dengan catatan, "Konten ini mungkin melanggar batasan kami mengenai likeness pihak ketiga."
Screenshot oleh David Gewirtz/ZDNET
Ketika saya menghubungi MPA untuk meminta komentar lanjutan berdasarkan pengalaman saya, John Mercurio, Wakil Presiden Eksekutif Global Communications, mengatakan kepada ZDNET melalui email, "Pada titik ini, kami tidak berkomentar selain pernyataan kami tanggal 6 Oktober."
Hal yang menarik tentang kreativitas adalah bahwa ia tidak hanya tentang imajinasi.
OpenAI jelas menyadari masalah dan kekhawatiran ini. Ketika saya menghubungi perusahaan melalui perwakilan PR mereka, saya diarahkan ke Kartu Sistem Sora 2 OpenAI. Ini adalah dokumen publik enam halaman yang menguraikan kemampuan dan batasan Sora 2. Perusahaan juga menyediakan dua sumber lain yang layak dibaca:
Di seluruh dokumen ini, OpenAI menggambarkan lima tema utama mengenai keselamatan dan hak:
- Kontrol likeness berbasis persetujuan: AI memiliki fitur "cameo" yang memungkinkan pengguna mengunggah likeness mereka sendiri. AI memungkinkan mereka mengontrol likeness ini. Namun, AI seharusnya dapat memblokir penggunaan figur publik.
- Penjagaan kekayaan intelektual dan audio: Perusahaan mengatakan akan memblokir peniru musik dan audio dan menghormati permintaan penghapusan.
- Inisiatif provenance dan transparansi: Perusahaan menempatkan watermark bergerak pada video dan menanamkan metadata standar C2PA (Koalisi untuk Provenans dan Keaslian Konten) untuk membantu memverifikasi asal usul konten.
- Kebijakan penggunaan melarang penyalahgunaan: Pengguna akan dilarang karena pelanggaran privasi, penipuan, pelecehan, dan ancaman.
- Penyelesaian dan penegakan kebijakan: Pengguna dapat melaporkan penyalahgunaan untuk penghapusan konten dan penalti.
Siapa yang memiliki apa, dan siapa yang disalahkan? Ketika saya menanyakan hal ini kepada kontak PR OpenAI saya, saya diberi tahu, "Apa yang saya sampaikan adalah sejauh yang bisa kami bagikan saat ini."
Jadi saya beralih ke Sean O’Brien, pendiri Yale Privacy Lab di Yale Law School. O’Brien mengatakan kepada saya, "Ketika seorang manusia menggunakan sistem AI untuk menghasilkan konten, orang tersebut, dan sering kali organisasinya, memikul tanggung jawab atas bagaimana keluaran yang dihasilkan digunakan. Jika keluarannya melanggar karya orang lain, operator manusialah, bukan sistem AI, yang bersalah."
O’Brien melanjutkan, "Prinsip ini ditegaskan kembali baru-baru ini dalam kasus Perplexity, di mana perusahaan melatih modelnya pada materi berhak cipta tanpa izin. Preseden di sana berbeda dari pertanyaan kepenulisan, tetapi itu menggarisbawahi bahwa pelatihan pada data berhak cipta tanpa izin merupakan tindakan pelanggaran yang secara hukum dapat dikenali."
Sekarang, inilah yang seharusnya merisaukan OpenAI, terlepas dari batasan, kartu sistem, dan filosofi pemberian makan mereka.
O’Brien dari Yale meringkasnya dengan kejelasan yang menohok, "Apa yang terbentuk sekarang adalah doktrin empat bagian dalam hukum AS. Pertama, hanya karya buatan manusia yang dapat diberi hak cipta. Kedua, keluaran AI generatif secara luas dianggap tidak dapat diberi hak cipta dan ‘Domain Publik secara default’. Ketiga, manusia atau organisasi yang menggunakan sistem AI bertanggung jawab atas setiap pelanggaran dalam konten yang dihasilkan. Dan, akhirnya, pelatihan pada data berhak cipta tanpa izin adalah dapat dituntut secara hukum dan tidak dilindungi oleh ambiguitas."
Dampak pada Kreativitas
Hal yang menarik tentang kreativitas adalah bahwa ia tidak hanya tentang imajinasi. Dalam kamus Webster, definisi pertama mencipta adalah "menghadirkan ke dalam keberadaan." Definisi lain adalah "menghasilkan atau mendatangkan melalui suatu tindakan atau perilaku." Dan definisi lainnya lagi adalah "menghasilkan melalui keterampilan imajinatif."
Tidak satupun dari ini membatasi medium yang digunakan untuk, katakanlah, cat minyak atau kamera film. Semuanya tentang mewujudkan sesuatu yang baru.
Saya sering memikirkan hal ini, karena dulu ketika saya memotret alam dengan film, hasil jepretan saya biasa saja. Saya menghabiskan banyak biaya untuk pemrosesan kimia dan pembesaran, dan tidak pernah puas. Tetapi begitu saya menggunakan Photoshop dan printer foto, gambar saya menjadi layak dipajang di dinding. Keterampilan imajinatif saya bukan hanya fotografi. Itu adalah perpaduan antara mengarahkan kamera, menangkap 1/250 detik pada film, dan kemudian menghidupkannya melalui cara digital.
Alat AI mendemokratisasikan akses ke hasil kreatif, memungkinkan mereka yang memiliki keterampilan kurang atau bahkan tidak ada untuk menghasilkan karya kreatif yang menyaingi mereka yang telah menghabiskan bertahun-tahun mengasah keterampilan mereka.
Pertanyaan tentang kreativitas sangat menantang di dunia AI generatif. Kantor Hak Cipta AS berpendapat bahwa hanya karya buatan manusia yang dapat diberi hak cipta. Tetapi di mana batas antara alat, medium, dan manusia?
Ambil contoh "Oblivious", sebuah lukisan yang saya "buat" dengan bantuan AI generatif Midjourney dan keterampilan retouching Photoshop. Komposisi elemennya sepenuhnya berasal dari imajinasi saya, tetapi alatnya digital.
Bert Monroy menulis buku pertama tentang Photoshop. Dia menggunakan Photoshop untuk membuat gambar-gambar fotorealistik yang menakjubkan. Tetapi dia tidak memotret dan kemudian memperbaikinya. Sebaliknya, piksel demi piksel, dia menciptakan gambar-gambar baru yang sepenuhnya terlihat seperti foto. Dia menggunakan medium untuk mengeksplorasi keterampilan dan kreativitasnya yang luar biasa. Apakah itu buatan manusia, atau hanya karena Photoshop yang mengendalikan piksel, itu tidak layak untuk diberi hak cipta?
Saya meminta pendapat Monroy tentang AI generatif dan kreativitas. Dia mengatakan ini kepada saya:
"Saya telah menjadi ilustrator komersial dan art director hampir sepanjang hidup saya. Klien saya harus membayar untuk karya saya, seorang fotografer, model, penata gaya, dan, sebelum komputer, retoucher, typesetter, dan seniman mekanik untuk menyatukan semuanya. Sekarang AI mulai berperan. Pikiran pertama yang muncul adalah betapa senangnya saya karena sudah meninggalkan seni komersial bertahun-tahun yang lalu."
"Sekarang, dengan AI, klien harus memikirkan apa yang mereka inginkan dan menulis prompt dan komputer akan menghasilkan berbagai versi dalam hitungan menit dengan TANPA biaya kecuali listrik untuk menjalankan komputer. Banyak pembicaraan tentang berapa banyak pekerjaan yang akan diambil alih oleh AI; yah, sepertinya bidang kreatif sedang diambil alih."
Sora 2 adalah pertanda langkah berikutnya dalam penggabungan imajinasi dan kreativitas digital. Ya, ia dapat mereproduksi orang, suara, dan objek dengan kesetiaan yang mengganggu dan menakjubkan. Tetapi begitu kita mempertimbangkan cara kita menggunakan alat dan medium sebagai bagian dari ekspresi artistik, kita sebagai masyarakat setuju bahwa seni dan kreativitas melampaui ketangkasan manual.
Ada masalah di sini yang terkait dengan keterampilan dan eksklusivitas. Alat AI mendemokratisasikan akses ke hasil kreatif, memungkinkan mereka yang memiliki keterampilan kurang atau bahkan tidak ada untuk menghasilkan karya kreatif yang menyaingi mereka yang telah menghabiskan bertahun-tahun mengasah kerajinan mereka.
Dalam beberapa hal, gejolak ini bukan tentang membatasi kreativitas. Ini tentang mendemokratisasikan keterampilan yang dikembangkan oleh beberapa orang seumur hidup dan yang mereka gunakan untuk mencari nafkah. Itu sangat memprihatinkan. Saya mencari nafkah sebagian besar sebagai penulis dan programmer. Kedua bidang ini sangat terancam oleh AI generatif.
Tetapi apakah kita membatasi alat baru untuk melindungi mata pencaharian lama? Karya Monroy luar biasa, tetapi sampai Anda menyadari bahwa semua karyanya dilukis dengan tangan di Photoshop, Anda akan sulit mempercayai bahwa itu bukan foto oleh fotografer yang berbakat. Pekerjaan yang memakan waktu berbulan-bulan bagi Bert mungkin hanya membutuhkan waktu beberapa menit bagi pengguna acak dengan ponsel cerdas untuk menangkapnya. Tetapi justru fakta bahwa Monroy menggunakan medium dengan cara yang kreatiflah yang membuat semua karyanya sangat mengesankan.
Maly Ly pernah menjabat sebagai chief marketing officer di GoFundMe, global head of growth and engagement di Eventbrite, promotions manager di Nintendo, dan product marketing manager di Lucasfilm. Dia memegang peran serupa di pengembang game legendaris Square Enix dan Ubisoft. Hari ini, dia adalah pendiri dan CEO Wondr, sebuah startup AI konsumen. Perspektifnya sangat instruktif dalam konteks ini.
Dia berkata, "Video AI memaksa kita untuk menghadapi pertanyaan lama dengan taruhan baru: Siapa yang memiliki keluaran ketika masukannya adalah segala sesuatu yang pernah kita buat? Hak cipta dibangun untuk dunia kelangkaan dan kepenulisan tunggal, tetapi AI menciptakan melalui kelimpahan dan remix. Kita tidak melihat kreativitas dicuri; kita melihatnya berlipat ganda."
Fakta bahwa AI generatif menghilangkan kelangkaan keterampilan sangat menakutkan bagi kita yang telah menjadikan identitas kita tentang memiliki keterampilan tersebut. Tetapi di mana Sora dan AI generatif mulai salah adalah ketika mereka melatih pada karya-karya kreator dan kemudian menyajikannya seolah-olah itu adalah karya baru, yang secara efektif mencuri karya orang lain. Ini adalah masalah besar bagi Sora.
Ly memiliki saran inovatif: "Peluang sebenarnya bukanlah perlindungan, melainkan partisipasi. Setiap seniman, suara, dan gaya visual yang melatih atau menginspirasi suatu model harus dapat dilacak dan diberi imbalan melalui alur nilai yang transparan. Sistem hak cipta berikutnya akan lebih menyerupai kode hidup — dinamis, adil, dan dibangun untuk kolaborasi."
Sayangnya, dia meletakkan harapannya untuk sistem hak cipta yang diperbarui dan relevan pada para politisi.
Tetapi tetap, dia melihat dampak positif secara keseluruhan dari AI, yang menyegarkan di antara semua pembicaraan menakutkan yang kita alami. Dia berkata, "Jika kita melakukan ini dengan benar, video AI bisa menjadi medium bercerita yang paling mendemokratis dalam sejarah, menciptakan ekonomi kreatif bersama dan yang dapat dipertanggungjawabkan di mana inspirasi akhirnya membayar hutangnya."
Apa yang Nyata?
Tantangan masyarakat lainnya yang muncul dari diperkenalkannya teknologi baru adalah bagaimana mereka mengubah persepsi kita tentang realitas. Hei, ada seluruh kategori teknologi yang berorientasi pada augmented, mixed, dan virtual reality.
Mungkin contoh paling terkenal tentang distorsi realitas karena teknologi terjadi pada pukul 8 malam waktu New York pada 30 Oktober 1938.
Perang Dunia II belum secara resmi dimulai, tetapi Eropa sedang dalam krisis. Pada bulan Maret, Jerman mencaplok Austria tanpa menembakkan satu peluru pun. Pada bulan September, Inggris dan Prancis menandatangani Perjanjian Munich, yang memungkinkan Hitler mengambil bagian dari yang saat itu adalah Cekoslowakia. Jepang telah menginvasi Cina tahun sebelumnya