Pada hari Rabu, OpenAI merilis draf lembar spesifikasi Modelnya yang mendetailkan bagaimana ia bermaksud agar model AI-nya berperilaku. Ada bagian yang fokus pada konten NSFW yang memberi kesan bahwa perusahaan sedang menjelajahi cara membuat AI porn, tetapi perusahaan mengatakan hal itu tidak terjadi.
“Mengapa Semua Orang Menuntut Perusahaan AI? | Teknologi Masa Depan”
“Kami tidak bermaksud untuk membuat pornografi yang dihasilkan oleh AI,” kata juru bicara OpenAI dalam sebuah email Kamis. “Kami memiliki perlindungan yang kuat dalam produk kami untuk mencegah deepfakes, yang tidak dapat diterima, dan kami memberikan prioritas perlindungan anak-anak. Kami juga percaya pada pentingnya menjelajahi pembicaraan tentang seksualitas dengan hati-hati dalam konteks yang sesuai dengan usia.”
Bagian yang membuat beberapa komentator percaya bahwa pornografi sedang dalam proses di OpenAI berfokus pada konten NSFW. Perusahaan menulis bahwa modelnya tidak boleh melayani permintaan konten yang tidak pantas yang meliputi “erotika, kekejaman ekstrim, umpatan, dan ketidakbaikan profanitas yang tidak diminta.” Namun, perusahaan menekankan bahwa pengembang sedang “menjelajahi apakah kami dapat bertanggung jawab dalam menyediakan kemampuan untuk menghasilkan konten NSFW dalam konteks yang sesuai dengan usia melalui API dan ChatGPT.” Lembar tersebut melanjutkan dengan memberikan contoh konten NSFW yang sesuai yang diperbolehkan seperti diminta untuk menulis lirik lagu yang mengandung kata kasar.
AI pornografi, khususnya deepfakes, telah menciptakan banyak kontroversi dalam setahun terakhir. Taylor Swift menjadi korban gelombang gambar dewasa palsu AI yang tidak setuju yang menggunakan wajahnya yang menyebar di media sosial pada bulan Januari. Bulan lalu, seorang wanita di negara bagian Washington berpartisipasi dalam situs web lotere negara bagian, yang akhirnya menciptakan gambar telanjang yang dihasilkan oleh AI dari dirinya.
Gizmodo menghubungi Aylo, perusahaan induk Pornhub, untuk memberikan komentar tentang prospek OpenAI membuka pintu gerbang pada pornografi yang dihasilkan oleh AI dan juru bicara menulis bahwa perusahaan tidak mentolerir “materi non-consensual di platform kami, termasuk deepfakes.”
“Setiap manipulasi AI/deepfakes dari gambar seseorang, baik dalam gambar atau video, untuk menciptakan ilusi bahwa orang tersebut sedang berbicara atau bertindak dengan cara lain dilarang,” kata juru bicara dalam sebuah email. “Dalam semua kasus di mana kami mengidentifikasi atau diberitahukan tentang konten yang melanggar kebijakan ini, tim Trust & Safety dan Moderasi kami bekerja dengan cepat untuk: Meninjau dan menghapus konten pelanggar; mencatat sidik jari konten yang dipertanyakan untuk membantu memblokir unggahan masa depan konten yang sama ke situs kami; dan menangguhkan atau mengakhiri secara permanen akun pengunggah terkait, jika sesuai.”