Saat kami pertama kali menguji Sora, aplikasi video AI baru dari OpenAI, kami mencatat bahwa feed sosial aplikasi itu penuh dengan meme yang menggambarkan Martin Luther King Jr.
Kemudian pada hari Kamis, OpenAI mengumumkan bahwa mereka telah menangguhkan kemampuan pengguna untuk membuat video hasil AI yang menampilkan kemiripan dengan ikon hak sipil tersebut. Pada tahun 2025, deepfake semacam ini merupakan masalah yang sudah terkenal, dan merupakan isu yang sebenarnya cukup terprediksi akan muncul.
Langkah ini diambil setelah adanya komentar kritis dari keluarga King, yang menolak penggambaran ofensif terhadap pahlawan Amerika tersebut di Sora.
OpenAI menulis dalam sebuah pernyataan di X:
“The Estate of Martin Luther King, Jr., Inc. (King, Inc.) dan OpenAI telah bekerja sama untuk menangani bagaimana kemiripan Dr. Martin Luther King Jr. direpresentasikan dalam generation Sora. Beberapa pengguna menghasilkan penggambaran tidak hormat terhadap citra Dr. King. Jadi atas permintaan King, Inc., OpenAI telah menjeda generation yang menggambarkan Dr. King sambil memperkuat guardrail untuk tokoh-tokoh sejarah.
Meskipun terdapat kepentingan kebebasan berekspresi yang kuat dalam menggambarkan tokoh sejarah, OpenAI percaya bahwa tokoh publik dan keluarga mereka pada akhirnya harus memiliki kendali atas bagaimana kemiripan mereka digunakan. Perwakilan resmi atau pemilik estate dapat meminta agar kemiripan mereka tidak digunakan dalam cameo Sora.”
The Washington Post melaporkan bahwa kemiripan King digunakan dalam berbagai cara yang rasis. Misalnya, beberapa video menggambarkan MLK mengeluarkan suara monyet selama pidato “I Have A Dream”-nya dan bergulat dengan aktivis Malcolm X. YouTuber ternama Hank Green juga mengkritik Sora 2, dengan menyebut khususnya sebuah video MLK yang melakukan meme 6-7 dalam versi AI slop yang sangat kasar.
Dr. Bernice King, putri King, memposting di Instagram meminta orang untuk “tolong hentikan” penggunaan AI untuk membuat rekayasa ulang palsu atas ayahnya, sejalan dengan putri Robin Williams, Zelda, yang baru-baru ini juga angkat bicara tentang masalah ini.
Meskipun pengguna Sora mungkin tidak lagi dapat membuat video tentang MLK — setidaknya untuk saat ini — tampaknya jelas bahwa deepfake AI dari orang-orang terkenal akan menjadi masalah yang berkelanjutan.
Keterangan: Ziff Davis, perusahaan induk Mashable, pada bulan April mengajukan gugatan terhadap OpenAI, dengan alegasi bahwa mereka melanggar hak cipta Ziff Davis dalam melatih dan mengoperasikan sistem AI-nya.