Selamat datang di era anti-social media. Menurut laporan dari Wired, OpenAI berencana meluncurkan aplikasi mandiri untuk alat pembuat video Sora 2 yang akan menyertakan fitur scroll ala TikTok. Fitur ini memungkinkan pengguna menjelajahi video yang sepenuhnya dihasilkan oleh Kecerdasan Buatan. Upaya yang sedikit utopis ini menyusul peluncuran feed yang khusus berisi konten AI oleh Meta di aplikasi Meta AI mereka, yang disambut dengan tanggapan negatif yang hampir universal.
Menurut Wired, aplikasi Sora 2 akan menampilkan navigasi gaya swipe-up-to-scroll yang sudah familier di sebagian besar platform video vertikal seperti TikTok, Instagram Reels, atau YouTube Shorts. Aplikasi ini juga akan menggunakan algoritma rekomendasi yang dipersonalisasi untuk menyajikan konten yang sesuai dengan minat pengguna. Para pengguna dapat menyukai, mengomentari, atau "meremix" sebuah postingan—semua fitur standar media sosial.
Perbedaan besarnya adalah bahwa semua konten di platform ini akan dihasilkan oleh AI melalui model pembuatan video OpenAI, yang dapat memproses teks, foto, atau video yang sudah ada dan mengubahnya dengan AI. Video-video ini akan berdurasi hingga 10 detik, mungkin karena itulah kira-kira durasi maksimal Sora dapat mempertahankan kualitas sebelum mulai menghasilkan hal-hal aneh. (Versi pertama Sora memungkinkan video hingga 60 detik, tetapi terbukti kesulitan menghasilkan gambar yang benar-benar meyakinkan dan berkesinambungan sepanjang itu.) Menurut Wired, tidak ada cara untuk mengunggah foto atau video secara langsung dan mempostingnya tanpa diedit.
Yang menarik, OpenAI telah menemukan cara untuk memasukkan elemen sosial ke dalam aplikasi, meskipun dengan cara yang memiliki kesan creepy yang inherent. Menurut Wired, aplikasi Sora 2 akan meminta pengguna untuk memverifikasi identitas mereka melalui pengenalan wajah untuk mengonfirmasi kemiripan mereka. Setelah identitas dikonfirmasi, kemiripan wajah mereka dapat digunakan dalam video. Tidak hanya dapat menyisipkan diri mereka sendiri ke dalam video, pengguna lain juga dapat menandai Anda dan menggunakan kemiripan wajah Anda dalam video mereka. Dilaporkan bahwa pengguna akan mendapat notifikasi setiap kali kemiripan wajah mereka digunakan, bahkan jika video yang dihasilkan disimpan sebagai draf dan tidak pernah diposting.
Bagaimana hal ini akan diimplementasikan ketika dan jika aplikasi ini diluncurkan untuk publik, kita lihat nanti. Tetapi, berdasarkan laporan tersebut, ini terdengar seperti mimpi buruk. Pada dasarnya, satu-satunya hal yang berhasil disepakati pemerintah federal dalam hal regulasi AI adalah memberikan beberapa perlindungan terbatas terhadap deepfake non-konsensual. Jika dideskripsikan, sepertinya salah satu fitur Sora 2 justru mengizinkan kemiripan wajah Anda dimanipulasi oleh orang lain. Pastinya akan ada opsi untuk opt-out atau kemampuan untuk membatasi siapa yang dapat menggunakan kemiripan wajah Anda, bukan?
Menurut Wired, akan ada beberapa perlindungan mengenai jenis konten yang dapat dibuat pengguna dengan Sora 2. Model ini dilatih untuk menolak pelanggaran hak cipta, contohnya, dan dilaporkan akan memiliki filter untuk membatasi jenis video tertentu agar tidak diproduksi. Tetapi, apakah ini benar-benar akan memberikan perlindungan yang cukup bagi orang? OpenAI sebelumnya sangat menekankan bagaimana mereka menambahkan perlindungan ke model Sora asli untuk mencegahnya menghasilkan gambar ketelanjangan dan eksplisit, tetapi pengujian terhadap sistem tersebut berhasil membuatnya menghasilkan konten terlarang meskipun dalam tingkat yang rendah namun tidak nol.
Gizmodo telah menghubungi OpenAI untuk mengonfirmasi rencana mereka untuk aplikasi ini, tetapi tidak menerima tanggapan pada saat publikasi. Spekulasi tentang peluncuran Sora 2 telah beredar selama berbulan-bulan, dengan beberapa harapan bahwa itu akan diumumkan bersamaan dengan GPT-5. Untuk saat ini, Sora 2 dan aplikasi pendampingnya masih bersifat teoretis, tetapi setidaknya ada satu ide bagus yang tersembunyi dalam konsep feed sosial semua-AI ini, meskipun mungkin tidak seperti yang dimaksudkan oleh OpenAI: Mengarantina konten AI.