OpenAI merilis dokumentasi draft pada hari Rabu yang menjelaskan bagaimana ChatGPT dan teknologi AI lainnya seharusnya berperilaku. Bagian dari dokumen Model Spec yang panjang mengungkapkan bahwa perusahaan sedang menjelajahi kemungkinan untuk memasuki industri pornografi dan konten eksplisit lainnya. Kebijakan penggunaan OpenAI saat ini melarang konten seksual eksplisit atau bahkan bersifat sugestif, tetapi catatan “komentar” pada bagian Model Spec terkait aturan tersebut mengatakan bahwa perusahaan sedang mempertimbangkan bagaimana cara untuk mengizinkan konten tersebut. “Kami sedang mengeksplorasi apakah kami dapat bertanggung jawab untuk menyediakan kemampuan untuk menghasilkan konten NSFW dalam konteks yang sesuai dengan usia melalui API dan ChatGPT,” catatan tersebut mengatakan. “Kami berharap dapat lebih memahami harapan pengguna dan masyarakat terhadap perilaku model di area ini.” Dokumen Model Spec mengatakan konten NSFW, atau konten yang tidak aman untuk dilihat di tempat kerja, “dapat mencakup erotika, kekejaman ekstrim, umpatan, dan ketidakpatutan profanitas yang tidak diundang.” Tidak jelas apakah eksplorasi OpenAI tentang bagaimana cara bertanggung jawab membuat konten NSFW membayangkan melemahkan kebijakan penggunaannya hanya sedikit, misalnya untuk mengizinkan pembuatan teks erotis, atau lebih luas untuk mengizinkan deskripsi atau gambaran kekerasan. Dalam menjawab pertanyaan dari WIRED, juru bicara OpenAI Grace McGuire mengatakan Model Spec merupakan upaya untuk “memberikan lebih banyak transparansi tentang proses pengembangan dan mendapatkan pemahaman lintas dari perspektif dan umpan balik dari publik, pembuat kebijakan, dan pemangku kepentingan lainnya.” Dia menolak untuk membagikan rincian tentang apa yang melibatkan eksplorasi OpenAI dalam pembuatan konten eksplisit, atau umpan balik apa yang diterima perusahaan tentang ide tersebut. Pada awal tahun ini, chief technology officer OpenAI Mira Murati mengatakan kepada Wall Street Journal bahwa dia “tidak yakin” apakah perusahaan akan memperbolehkan gambaran nudity dibuat dengan alat pembuat video perusahaan, Sora. Pornografi yang dihasilkan AI dengan cepat menjadi salah satu aplikasi terbesar dan paling mengkhawatirkan dari teknologi AI generatif yang OpenAI pionirkan. Pornografi deepfake – gambar atau video eksplisit yang dibuat dengan alat AI yang menggambarkan orang sungguhan tanpa persetujuan mereka – telah menjadi alat umum pelecehan terhadap wanita dan gadis. Pada bulan Maret, WIRED melaporkan tentang apa yang tampaknya menjadi minor AS pertama yang ditangkap karena mendistribusikan nude yang dihasilkan AI tanpa persetujuan, setelah polisi Florida menuduh dua remaja laki-laki membuat gambar yang menggambarkan rekan-rekan sekolah menengah mereka. “Pelanggaran privasi intim, termasuk video seks deepfake dan gambar intim yang disintesis tanpa persetujuan, merajalela dan sangat merugikan,” kata Danielle Keats Citron, seorang profesor di University of Virginia School of Law yang telah mempelajari masalah tersebut. “Sekarang kita memiliki dukungan empiris yang jelas yang menunjukkan bahwa penyalahgunaan semacam itu mengakibatkan individu yang ditargetkan kehilangan peluang penting, termasuk untuk bekerja, berbicara, dan merasa aman secara fisik.” Citron menyebut potensi OpenAI untuk merangkul konten AI eksplisit sebagai “mengkhawatirkan.” Karena kebijakan penggunaan OpenAI melarang penyamaran tanpa izin, gambaran eksplisit yang tidak bersifat sukarela akan tetap dilarang meskipun perusahaan memperbolehkan pencipta untuk menghasilkan materi NSFW. Tetapi masih harus dilihat apakah perusahaan dapat secara efektif memoderasi generasi eksplisit untuk mencegah pelaku buruk menggunakan alat-alat tersebut. Microsoft melakukan perubahan pada salah satu alat AI generatifnya setelah 404 Media melaporkan bahwa itu telah digunakan untuk membuat gambar eksplisit Taylor Swift yang didistribusikan di platform sosial X. Pelaporan tambahan oleh Reece Rogers.
