OpenAI Sora membatasi gambaran orang sungguhan dan mengambil tindakan keamanan lainnya yang ketat untuk mencegah penyalahgunaan. Generator video, yang diumumkan pada hari Senin sebagai bagian dari acara 12 Hari OpenAI, memiliki berbagai kemampuan pengeditan untuk pengguna membuat dan menyesuaikan video AI yang dihasilkan. Tetapi ada beberapa hal yang tidak boleh Anda lakukan dengan Sora, seperti yang segera ditemukan pengguna. Menurut kartu sistemnya, “kemampuan mengunggah gambar orang akan dibuat tersedia bagi sebagian pengguna,” yang berarti sebagian besar pengguna tidak dapat membuat video orang berdasarkan gambar yang diunggah. Pengguna tersebut adalah bagian dari “Pilot Kemiripan” yang sedang diuji coba oleh OpenAI dengan beberapa orang yang dipilih. Seorang juru bicara OpenAI mengatakan video yang dihasilkan AI dari orang dibatasi untuk “menangani kekhawatiran seputar penyalahgunaan kemiripan dan deepfakes.” OpenAI “akan memantau pola penyalahgunaan, dan ketika kami menemukannya, kami akan menghapus konten tersebut, mengambil tindakan yang sesuai dengan pengguna, dan menggunakan pembelajaran awal ini untuk mengiterasi pendekatan kami terhadap keamanan,” lanjut juru bicara. Pembatasan gambaran orang dalam video Sora masuk akal dari segi tanggung jawab hukum. Ada berbagai cara alat tersebut bisa disalahgunakan: deepfakes tanpa persetujuan, gambaran anak-anak, penipuan, dan informasi yang salah untuk beberapa contoh. Untuk melawan hal ini, Sora telah dilatih untuk menolak permintaan tertentu dari teks atau unggahan gambar. Itu akan menolak permintaan untuk konten NSFW (Tidak Aman untuk Dikerjakan) dan NCII (Gambar Intim Non-Konsensual) dan pembuatan anak-anak realistis, meskipun gambar fiktif diperbolehkan. OpenAI telah menambahkan metadata C2PA ke semua video Sora dan membuat tanda air terlihat sebagai default, meskipun dapat dihapus, dan menerapkan pencarian gambar balik internal untuk menilai asal usul video. Meskipun banyak pembatasan telah diterapkan untuk mencegah penyalahgunaan, pertanyaan tentang bagaimana Sora akan merespons pengujian stres massal tetap ada. Saat ini, akses ke Sora tidak tersedia karena permintaan yang tinggi.
