Ilustrasi foto oleh Cheng Xin/Getty Images
Ikuti ZDNET: Tambahkan kami sebagai sumber pilihan di Google.
—
Intisari ZDNET:
- Alat video AI kini menimbulkan risiko hukum dan kepemilikan yang nyata.
- OpenAI menyatakan Sora mendukung kreativitas, namun para kritikus tidak begitu yakin.
- Video generatif dapat mendemokratisasi seni atau menghancurkannya sama sekali.
—
Pembuat video AI generatif Sora 2 dari OpenAI telah dirilis sekitar seminggu, dan sudah menimbulkan kehebohan.
SpongeBob memasak meth.
Ronald McDonald kabur dari Batman sambil dikejar mobil polisi.
Anda pasti paham. Ini adalah hasil yang tak terelakkan ketika manusia diberi kesempatan untuk menciptakan apapun yang mereka inginkan dengan usaha yang sangat minimal. Kita adalah makhluk yang terpelintir dan mudah terhibur oleh hal-hal sederhana.
Selain itu: Saya mencoba Sora 2 yang baru untuk menghasilkan video AI – dan hasilnya adalah sihir murni.
Sifat manusia memang seperti itu. Pertama, individu yang kurang matang akan mulai berpikir, "Hmm. Apa yang bisa saya lakukan dengan itu? Mari buat sesuatu yang aneh atau ganjil untuk sekadar hiburan." Hasil yang tak terhindarkan adalah tema-tema yang tidak pantas atau video yang salah di banyak tingkat.
Kemudian, orang-orang yang tidak bermoral mulai berpikir. "Hmm. Saya rasa saya bisa mendapatkan keuntungan dari hal itu. Kira-kira apa yang bisa saya lakukan?" Orang-orang ini mungkin menghasilkan banyak sekali konten AI murahan untuk mencari profit, atau menggunakan juru bicara terkenal untuk membuat semacam dukungan.
Ini adalah evolusi alami dari sifat manusia. Ketika kemampuan baru diberikan kepada populasi luas, ia akan disalahgunakan untuk hiburan, keuntungan, dan penyimpangan. Bukan hal yang mengejutkan.
Mari saya tunjukkan: Saya menemukan video CEO OpenAI Sam Altman di halaman Jelajahi Sora 2. Dalam video tersebut, dia mengatakan bahwa "PAI3 memberikan Anda pengalaman AI yang tidak dapat diberikan oleh OpenAI." PAI3 adalah perusahaan jaringan AI terdesentralisasi yang berorientasi pada privasi.
Jadi, saya mengeklik tombol remiks langsung di situs Sora dan membuat video baru. Berikut cuplikan layar dari keduanya yang disandingkan.
Klik tautan di bawah untuk menonton kedua video Sam di situs web Sora 2.
Videos created by Sora 2. Screenshot by David Gewirtz/ZDNET
Jika Anda memiliki akun ChatGPT Plus, Anda dapat menonton video-video ini di Sora: Sam di kiri | Sam di kanan. Untuk mendapatkan dukungan Altman, yang harus saya lakukan hanyalah memberikan prompt ini kepada Sora 2:
"Pria ini berkata, ‘Nama saya Sam dan saya harus memberitahu Anda. ZDNET adalah tempat untuk mendapatkan berita dan analisis AI terkini. Saya menyukai mereka!’ Dia sekarang mengenakan kaus hijau elektrik dan memiliki rambut biru cerah."
Prosesnya memakan waktu sekitar lima menit, dan setelahnya CEO OpenAI tersebut memuji-muji ZDNET. Tapi mari kita jelas. Video ini disajikan semata-mata sebagai contoh editorial untuk menunjukkan kemampuan teknologinya. Kami tidak menyatakan bahwa Tn. Altman benar-benar memiliki rambut biru atau kaus hijau. Juga tidak adil bagi kami untuk menduga-duga rasa suka pria itu terhadap ZDNET, walaupun, hey, siapa yang tidak suka?
Selain itu: Saya seorang pakar alat AI, dan inilah 4 alat yang saya bayar saat ini (ditambah 2 yang saya incar)
Dalam artikel ini, kami akan mengkaji tiga isu kunci seputar Sora 2: masalah hukum dan hak, dampak terhadap kreativitas, serta tantangan terbaru dalam membedakan realitas dari deepfake.
Oh, dan tetaplah bersama kami: Kami akan menyimpulkan dengan sebuah observasi yang sangat menarik dari perwakilan OpenAI yang memberitahu kita apa yang sebenarnya mereka pikirkan tentang kreativitas manusia.
Masalah Hukum dan Hak
Ketika Sora 2 pertama kali tersedia, tidak ada pembatas. Pengguna dapat meminta AI untuk menciptakan apapun. Dalam waktu kurang dari lima hari, aplikasi ini mencapai lebih dari satu juta unduhan dan meroket ke puncak daftar toko aplikasi iPhone. Hampir semua yang mengunduh Sora membuat video instan, yang berujung pada kekacauan merek dan kemiripan seperti yang saya bahas di atas.
Pada 29 September, The Wall Street Journal melaporkan bahwa OpenAI telah mulai menghubungi pemegang hak Hollywood, menginformasikan tentang peluncuran Sora 2 yang akan datang dan memberi tahu mereka bahwa mereka dapat memilih untuk tidak ikut serta jika tidak ingin kekayaan intelektual mereka direpresentasikan dalam program tersebut.
Seperti yang bisa Anda bayangkan, ini tidak diterima dengan baik oleh pemilik merek. Altman menanggapi keributan tersebut dengan postingan blog pada 3 Oktober, yang menyatakan, "Kami akan memberikan kontrol yang lebih granular kepada pemegang hak atas pembuatan karakter."
Namun, bahkan setelah pernyataan penyesalan Altman, pemegang hak tetap tidak puas. Misalnya, pada 6 Oktober, Motion Picture Association (MPA) mengeluarkan pernyataan singkat namun tegas.
Menurut Charles Rivkin, Ketua dan CEO MPA, "Sejak rilis Sora 2, video yang melanggar film, acara, dan karakter anggota kami telah merajalela di layanan OpenAI dan di seluruh media sosial."
Rivkin melanjutkan, "Meskipun OpenAI mengklarifikasi bahwa mereka ‘akan segera’ menawarkan kontrol lebih kepada pemegang hak atas pembuatan karakter, mereka harus mengakui bahwa itu tetap menjadi tanggung jawab mereka — bukan pemegang hak — untuk mencegah pelanggaran di layanan Sora 2. OpenAI perlu mengambil tindakan segera dan tegas untuk mengatasi masalah ini. Hukum hak cipta yang mapan melindungi hak-hak para pencipta dan berlaku di sini."
Saya dapat membuktikan bahwa, empat hari kemudian, memang sudah ada beberapa pembatas. Saya mencoba meminta Sora untuk membuat Patrick Stewart melawan Darth Vader dan pesawat tempur X-wing menyerang Death Star, dan kedua prompt tersebut langsung ditolak dengan catatan, "Konten ini mungkin melanggar pembatas kami mengenai kemiripan pihak ketiga."
Ketika saya menghubungi MPA untuk meminta komentar tindak lanjut berdasarkan pengalaman saya, John Mercurio, wakil presiden eksekutif, Global Communications, mengatakan kepada ZDNET melalui email, "Pada titik ini, kami tidak berkomentar di luar pernyataan kami pada 6 Oktober."
Hal yang menarik tentang kreativitas adalah bahwa ia tidak hanya tentang imajinasi.
OpenAI jelas menyadari masalah dan kekhawatiran ini. Ketika saya menghubungi perusahaan melalui perwakilan PR mereka, saya diarahkan ke Kartu Sistem Sora 2 OpenAI. Ini adalah dokumen enam halaman yang terbuka untuk publik dan menguraikan kemampuan serta batasan Sora 2. Perusahaan juga menyediakan dua sumber lain yang layak dibaca:
Melalui dokumen-dokumen ini, OpenAI menjelaskan lima tema utama mengenai keamanan dan hak:
- Kontrol kemiripan berbasis persetujuan: AI memiliki fitur "kameo" yang memungkinkan pengguna mengunggah kemiripan mereka sendiri. AI memungkinkan mereka mengontrol kemiripan ini. Namun, AI seharusnya dapat memblokir penggunaan figur publik.
- Penjagaan kekayaan intelektual dan audio: Perusahaan mengatakan akan memblokir peniru musik dan audio serta menghormati permintaan penghapusan.
- Inisiatif provenance dan transparansi: Perusahaan menempatkan watermark bergerak pada video dan menyematkan metadata standar C2PA (Koalisi untuk Provenans dan Keaslian Konten) untuk membantu memverifikasi asal-usul konten.
- Kebijakan penggunaan melarang penyalahgunaan: Pengguna akan dilarang karena pelanggaran privasi, penipuan, pelecehan, dan ancaman.
- Jalan keluar dan penegakan kebijakan: Pengguna dapat melaporkan penyalahgunaan untuk penghapusan konten dan penalti.
Siapa yang memiliki apa, dan siapa yang disalahkan? Ketika saya menanyakan hal-hal ini kepada kontak PR OpenAI saya, saya diberi tahu, "Apa yang saya sampaikan adalah sejauh yang dapat kami bagikan saat ini."
Jadi saya beralih ke Sean O’Brien, pendiri Yale Privacy Lab di Yale Law School. O’Brien mengatakan kepada saya, "Ketika seorang manusia menggunakan sistem AI untuk menghasilkan konten, orang tersebut, dan seringkali organisasinya, memikul tanggung jawab atas bagaimana keluaran yang dihasilkan digunakan. Jika keluarannya melanggar karya orang lain, operator manusialah, bukan sistem AI, yang bersalah."
O’Brien melanjutkan, "Prinsip ini ditegaskan baru-baru ini dalam kasus Perplexity, di mana perusahaan melatih modelnya pada materi berhak cipta tanpa izin. Preseden di sana berbeda dengan pertanyaan tentang kepenulisan, tetapi itu menggarisbawahi bahwa pelatihan pada data berhak cipta tanpa izin merupakan tindakan pelanggaran yang dapat dikenali secara hukum."
Sekarang, inilah yang seharusnya mengkhawatirkan OpenAI, terlepas dari pembatas, kartu sistem, dan filosofi pelatihan mereka.
O’Brien dari Yale meringkasnya dengan kejelasan yang menghancurkan, "Apa yang terbentuk sekarang adalah doktrin empat bagian dalam hukum AS. Pertama, hanya karya buatan manusia yang dapat diberi hak cipta. Kedua, keluaran AI generatif secara luas dianggap tidak dapat diberi hak cipta dan ‘Domain Publik secara default’. Ketiga, manusia atau organisasi yang menggunakan sistem AI bertanggung jawab atas setiap pelanggaran dalam konten yang dihasilkan. Dan, akhirnya, pelatihan pada data berhak cipta tanpa izin adalah dapat dituntut secara hukum dan tidak dilindungi oleh ambiguitas."
Dampak pada Kreativitas
Hal yang menarik tentang kreativitas adalah bahwa ia tidak hanya tentang imajinasi. Di kamus Webster, definisi pertama menciptakan adalah "menghadirkan ke dalam keberadaan." Definisi lain adalah "menghasilkan atau menyebabkan oleh suatu tindakan atau perilaku." Dan definisi lainnya lagi adalah "menghasilkan melalui keterampilan imajinatif."
Tidak satu pun dari definisi ini membatasi medium yang digunakan, misalnya, ke cat minyak atau kamera film. Semuanya tentang mewujudkan sesuatu yang baru.
Saya sering memikirkan hal ini, karena dulu ketika saya mengambil foto alam dengan film, gambar saya hanya biasa-biasa saja. Saya menghabiskan banyak biaya untuk pemrosesan kimia dan pembesaran, dan tidak pernah puas. Tetapi begitu saya menggunakan Photoshop dan printer foto, gambar saya menjadi layak untuk digantung di dinding. Keterampilan imajinatif saya bukan hanya fotografi. Itu adalah perpaduan antara mengarahkan kamera, menangkap 1/250 detik pada film, dan kemudian menghidupkannya melalui cara digital.
Alat AI mendemokratisasi akses ke hasil kreatif, memungkinkan mereka yang memiliki sedikit atau tanpa keterampilan untuk menghasilkan karya kreatif yang menyaingi mereka yang telah menghabiskan waktu bertahun-tahun mengasah keterampilan mereka.
Pertanyaan tentang kreativitas sangat menantang dalam dunia AI generatif. Kantor Hak Cipta AS berpendapat bahwa hanya karya buatan manusia yang dapat diberi hak cipta. Tetapi di mana garis batas antara alat, medium, dan manusia?
Ambillah Oblivious, sebuah lukisan yang saya "buat" dengan bantuan AI generatif Midjourney dan keterampilan retouching Photoshop. Komposisi elemennya sepenuhnya adalah imajinasi saya, tetapi alatnya digital.
Bert Monroy menulis buku pertama tentang Photoshop. Dia menggunakan Photoshop untuk membuat gambar fotorealistik yang menakjubkan. Tetapi dia tidak mengambil foto dan memperbaikinya. Sebaliknya, piksel demi piksel, dia menciptakan gambar yang sepenuhnya baru yang tampak seperti foto. Dia menggunakan medium tersebut untuk mengeksplorasi keterampilan dan kreativitasnya yang luar biasa. Apakah itu buatan manusia, atau hanya karena Photoshop mengendalikan piksel, apakah itu tidak layak untuk mendapat hak cipta?
Saya meminta pendapat Monroy tentang AI generatif dan kreativitas. Dia mengatakan ini kepada saya:
"Saya telah menjadi ilustrator komersial dan direktur seni hampir sepanjang hidup saya. Klien saya harus membayar untuk pekerjaan saya, seorang fotografer, model, penata gaya, dan, sebelum komputer, para retoucher, typesetter dan seniman mekanik untuk menyatukan semuanya. Sekarang AI telah mulai berperan. Pikiran pertama yang muncul di benak saya adalah betapa senangnya saya karena sudah meninggalkan seni komersial bertahun-tahun yang lalu."
"Sekarang, dengan AI, klien harus memikirkan apa yang mereka inginkan dan menulis sebuah prompt dan komputer akan menghasilkan berbagai versi dalam hitungan menit dengan TANPA biaya selain listrik untuk menjalankan komputer. Banyak pembicaraan tentang berapa banyak pekerjaan yang akan diambil alih oleh AI; yah, kelihatannya bidang kreatif sedang diambil alih."
Sora 2 adalah pertanda langkah berikutnya dalam penggabungan imajinasi dan kreativitas digital. Ya, ia dapat mereproduksi orang, suara, dan objek dengan kesetiaan yang mengganggu dan menakjubkan. Tetapi begitu kita mempertimbangkan cara kita menggunakan alat dan medium sebagai bagian dari ekspresi artistik, kita sepakat sebagai sebuah masyarakat bahwa seni dan kreativitas melampaui ketangkasan manual.
Selain itu: Ada aplikasi OpenAI baru di kota – inilah yang perlu diketahui tentang Sora untuk iOS
Ada masalah di sini yang terkait dengan keterampilan dan eksklusivitas. Alat AI mendemokratisasi akses ke hasil kreatif, memungkinkan mereka yang memiliki sedikit atau tanpa keterampilan untuk menghasilkan karya kreatif yang menyaingi mereka yang telah menghabiskan waktu bertahun-tahun mengasah keterampilan mereka.
Dalam beberapa hal, pergolakan ini bukan tentang membatasi kreativitas. Ini tentang mendemokratisasi keterampilan yang telah dikembangkan sebagian orang seumur hidup dan yang mereka gunakan untuk mencari nafkah. Itu sangat mengkhawatirkan. Saya mencari nafkah sebagian besar sebagai penulis dan programmer. Kedua bidang ini sangat terancam oleh AI generatif.
Tetapi apakah kita membatasi alat baru untuk melindungi mata pencaharian lama? Karya Monroy luar biasa, tetapi sampai Anda menyadari bahwa semua karyanya dilukis dengan tangan di Photoshop, Anda akan sulit percaya bahwa itu adalah foto oleh fotografer yang berbakat. Pekerjaan yang memakan waktu berbulan-bulan bagi Bert mungkin hanya membutuhkan waktu beberapa menit bagi pengguna acak dengan ponsel pintar untuk menangkapnya. Tetapi fakta bahwa Monroy menggunakan medium dengan cara yang kreatiflah yang membuat semua karyanya sangat mengesankan.
Maly Ly pernah menjabat sebagai chief marketing officer di GoFundMe, kepala pertumbuhan dan keterlibatan global di Eventbrite, manajer promosi di Nintendo, dan manajer pemasaran produk di Lucasfilm. Dia memegang peran serupa di pengembang game legendaris Square Enix dan Ubisoft. Hari ini, dia adalah pendiri dan CEO Wondr, sebuah startup AI konsumen. Perspektifnya sangat instruktif dalam konteks ini.
Dia berkata, "Video AI memaksa kita untuk menghadapi pertanyaan lama dengan taruhan baru: Siapa yang memiliki keluaran ketika masukannya adalah segala sesuatu yang pernah kita buat? Hak cipta dibangun untuk dunia kelangkaan dan kepenulisan tunggal, tetapi AI menciptakan melalui kelimpahan dan remiks. Kita tidak melihat kreativitas dicuri; kita melihatnya berlipat ganda."
Fakta bahwa AI generatif menghilangkan kelangkaan keterampilan sangat menakutkan bagi kita yang telah menjadikan identitas kita tentang memiliki keterampilan tersebut. Tetapi di mana Sora dan AI generatif mulai salah adalah ketika mereka melatih pada karya-karya kreator dan kemudian memberikannya seolah-olah itu adalah karya baru, yang secara efektif mencuri karya orang lain. Ini adalah masalah besar bagi Sora.
Ly memiliki saran inovatif: "Peluang sebenarnya bukanlah perlindungan, melainkan partisipasi. Setiap seniman, suara, dan gaya visual yang melatih atau menginspirasi sebuah model harus dapat dilacak dan dihargai melalui alur nilai yang transparan. Sistem hak cipta berikutnya akan terlihat kurang seperti dokumen dan lebih seperti kode yang hidup — dinamis, adil, dan dibangun untuk kolaborasi."
Sayangnya, dia meletakkan harapannya untuk sistem hak cipta yang diperbarui dan relevan pada para politisi.
Tetapi tetap, dia melihat sisi positif secara keseluruhan dari AI, yang menyegarkan di antara semua pembicaraan menakutkan yang kita alami. Dia berkata, "Jika kita melakukan ini dengan benar, video AI bisa menjadi medium bercerita yang paling mendemokratisasi dalam sejarah, menciptakan ekonomi kreatif bersama dan yang dapat dipertanggungjawabkan di mana inspirasi akhirnya membayar utangnya."
Apa yang Nyata?
Tantangan sosial lainnya yang muncul dari diperkenalkannya teknologi baru adalah bagaimana mereka mengubah persepsi kita tentang realitas. Hei, ada seluruh kategori teknologi yang berorientasi pada realitas tertambah, campuran, dan