OpenAI tidak akan lagi mengizinkan penggunanya untuk membuat deepfake AI dari Rev. Martin Luther King Jr. di aplikasi media sosial Sora AI. Keputusan ini menyoroti konflik intens antara perusahaan AI dan pemegang hak seperti ahli waris selebritas, studio film, dan agen bakat – serta bagaimana teknologi AI generatif terus mengikis realitas bagi kita semua.
Sora, aplikasi saudari baru untuk ChatGPT, memungkinkan pengguna membuat dan berbagi video yang dihasilkan AI. Aplikasi ini diluncurkan dengan gegap gempita tiga minggu lalu, dengan para penggemar AI mencari kode undangan. Namun Sora unik di antara generator video AI dan aplikasi media sosial; aplikasi ini mengizinkan Anda menggunakan rupa tercatat orang lain untuk menempatkan mereka di hampir semua video AI. Hasilnya, paling baik, terasa aneh dan lucu – dan paling buruk, menjadi gulungan deepfake tanpa akhir yang hampir tak dapat dibedakan dari kenyataan.
OpenAI memang telah memasang pagar pengaman untuk mencegah pembuatan video orang-orang terkenal: Misalnya, perusahaan menolak permintaan saya untuk membuat video Taylor Swift di atas panggung. Namun pagar pengaman ini tidak sempurna, seperti yang kita lihat pekan ini dengan tren yang berkembang di mana orang-orang membuat video yang menampilkan King. Rentangannya beragam dari deepfake aneh dirinya ngerap dan bergulat di WWE hingga konten yang terang-terangan rasis.
Jangan lewatkan konten teknologi yang tidak bias dan ulasan berbasis lab kami. Tambahkan CNET sebagai sumber pilihan di Google.
Banjiran “penggambaran yang tidak hormat,” sebagaimana OpenAI menyebutnya dalam sebuah pernyataan, adalah sebagian alasan mengapa perusahaan menghentikan sementara kemampuan untuk membuat video yang menampilkan King.
Pernyataan dari OpenAI dan King Estate, Inc.
The Estate of Martin Luther King, Jr., Inc. (King, Inc.) dan OpenAI telah bekerja sama untuk menangani bagaimana rupa Dr. Martin Luther King Jr. direpresentasikan dalam generasi Sora. Beberapa pengguna menghasilkan gambaran yang tidak hormat tentang Dr.…
— OpenAI Newsroom (@OpenAINewsroom) 17 Oktober 2025
Bernice A. King, putri dari pemimpin hak sipil almarhum itu, pekan lalu secara publik meminta orang-orang untuk berhenti mengirimkannya video AI ayahnya yang dihasilkan AI. Dia menggemakan putri komedian Robin Williams, Zelda, yang menyebut video-video AI semacam ini “menjijikkan”.
Saya sependapat mengenai ayah saya.
Tolong hentikan. #RobinWilliams #MLK #AI https://t.co/SImVIP30iN
— Be A King (@BerniceKing) 7 Oktober 2025
Dalam pernyataannya, OpenAI mengatakan mereka “percaya bahwa figura publik dan keluarga mereka pada akhirnya harus memiliki kendali atas bagaimana rupa mereka digunakan” dan bahwa “perwakilan yang berwenang” dari figura publik dan ahli waris mereka dapat meminta agar rupa mereka tidak disertakan dalam Sora.
Ini bukan pertama kalinya OpenAI bergantung pada pihak lain untuk membuat keputusan tersebut. Sebelum peluncuran Sora, perusahaan dilaporkan memberitahukan sejumlah agen bakat yang berdekatan dengan Hollywood bahwa mereka dapat memilih untuk tidak menyertakan kekayaan intelektual mereka dalam Sora. Dalam kasus ini, ahli waris King adalah entitas yang bertanggung jawab untuk memilih bagaimana rupa almarhum digunakan.
Pendekatan OpenAI tidak sejalan dengan undang-undang hak cipta selama beberapa dekade – biasanya, perusahaan perlu melisensikan konten yang dilindungi sebelum menggunakannya – dan OpenAI membalikkan sikapnya beberapa hari kemudian. Ini adalah salah satu contoh bagaimana perusahaan AI dan para pencipta bentrok mengenai hak cipta, termasuk melalui gugatan hukum yang terkenal.
(Keterangan: Ziff Davis, perusahaan induk CNET, pada bulan April mengajukan gugatan terhadap OpenAI, dengan dalih bahwa perusahaan melanggar hak cipta Ziff Davis dalam melatih dan mengoperasikan sistem AI-nya.)