OpenAI Blokir Pembuatan Video AI Martin Luther King Jr. di Sora
OpenAI memblokir pengguna dari membuat video AI yang menampilkan mendiang pemimpin hak sipil, Martin Luther King Jr., dalam model video AI mereka, Sora. Perusahaan mengumumkan langkah ini pada Kamis dalam pernyataan bersama dengan King Estate.
Menurut OpenAI, beberapa pengguna telah membuat "penggambaran yang tidak hormat" terhadap King. Atas permintaan estate-nya, perusahaan mengatakan mereka menghentikan sementara kemampuan pengguna untuk membuat video aktivis tersebut sembari berupaya "memperkuat pengamanan untuk tokoh-tokoh sejarah."
"Meskipun terdapat kepentingan kebebasan berekspresi yang kuat dalam menggambarkan tokoh sejarah, OpenAI percaya bahwa figur publik dan keluarga mereka pada akhirnya harus memiliki kendali atas bagaimana rupa mereka digunakan," ujar perusahaan dalam pernyataannya.
OpenAI menambahkan bahwa perwakilan resmi atau pemilik estate dari tokoh sejarah lainnya kini dapat meminta agar rupa mereka tidak digunakan dalam video Sora.
OpenAI baru-baru ini meluncurkan model video AI paling mutakhir mereka, Sora 2, bersama dengan aplikasi media sosial baru yang mirip TikTok. Aplikasi ini memungkinkan pengguna mengunggah rupa mereka sendiri, disebut cameo, untuk membuat video AI yang menampilkan diri mereka sendiri, teman-teman, selebriti, dan karakter fiksi.
Sejak debutnya hanya beberapa minggu lalu, OpenAI telah mulai menyesuaikan cara kerja aplikasi tersebut sambil berusaha menavigasi keseimbangan yang masih buram antara kebebasan berekspresi dan penyalahgunaan AI.
Bahkan CEO OpenAI Sam Altman mengatakan dalam sebuah postingan di X bahwa perusahaan merasa sedikit "kekhawatiran" dalam meluncurkan model dan aplikasi media sosial terbaru mereka.
"Media sosial telah membawa beberapa efek baik bagi dunia, tetapi juga beberapa efek buruk," tulisnya. "Kami menyadari betapa adiktifnya layanan seperti ini, dan kami dapat membayangkan banyak cara yang dapat digunakan untuk perundungan."
Tidak butuh waktu lama bagi orang-orang untuk mulai bertingkah aneh dengan Sora. The Washington Post melaporkan bahwa klip hasil Sora dari mendiang selebriti seperti Michael Jackson, Amy Winehouse, dan Whitney Houston dengan cepat membanjiri media sosial. Meskipun beberapa dimaksudkan sebagai penghormatan ringan, yang lain lebih tidak sopan.
Menurut The Post, beberapa pengguna membuat video King mengeluarkan suara monyet selama pidato "I Have a Dream"-nya dan bergulat dengan sesama aktivis hak sipil Malcolm X.
Beberapa keluarga almarhum dengan cepat mengeluh dan meminta orang untuk berhenti membagikan video AI kerabat mereka.
Zelda Williams, putri dari mendiang aktor Robin Williams, memposting di Instagram awal bulan ini, mendesak orang untuk berhenti mengiriminya video AI ayahnya. Tidak jelas apakah video yang dia rujuk dibuat dengan Sora, tetapi postingannya menyusul peluncuran aplikasi tersebut.
Bernice King, putri Martin Luther King Jr., menulis dalam postingan Instagramnya sendiri mengenai komentar Williams, "Saya sependapat mengenai ayah saya. Tolong hentikan."
Langkah terbaru OpenAI ini menggema perubahan cara mereka menangani materi berhak cipta.
Setelah awalnya mengharuskan pemegang hak cipta untuk menyatakan tidak setuju agar konten mereka tidak muncul dalam video hasil Sora, Altman mengumumkan awal bulan ini bahwa perusahaan akan beralih ke model "opt-in" yang akan "memberikan kendali lebih granular kepada pemegang hak atas pembuatan karakter."