Microsoft tidak akan ikut cara Elon Musk dari xAI atau Sam Altman dari OpenAI buat bikin "simulasi erotika" buat pengguna chatbot mereka. Menurut CEO AI Microsoft, fitur seperti itu bisa "sangat berbahaya."
"Itu bukan layanan yang akan kami sediakan," kata CEO AI Microsoft, Mustafa Suleyman, di acara Paley International Council Summit di California, Kamis lalu. "Perusahaan lain yang akan buat itu."
Awal tahun ini, Elon Musk bilang di sebuah postingan di X bahwa bot AI Grok dari perusahaannya bisa jadi teman, misalnya seperti perempuan muda yang mirip karakter anime, untuk pelanggan. Dan minggu lalu, CEO OpenAI Sam Altman umumkan ChatGPT nanti bisa bikin konten erotik untuk pengguna dewasa yang sudah terverifikasi.
Altman jelaskan keputusan mereka untuk nambah kemampuan seksual yang lebih jelas akan butuh verifikasi usia. Itu adalah bagian dari prinsip untuk "memperlakukan pengguna dewasa seperti orang dewasa."
"Saat AI menjadi makin penting dalam hidup orang, memberikan banyak kebebasan untuk orang pakai AI dengan cara yang mereka inginkan adalah bagian penting dari misi kami," tulis Altman di X.
Microsoft dan OpenAI Mulai Berpisah Arah
Perbedaan sikap tentang erotika di chatbot AI ini terjadi saat Microsoft dan OpenAI, yang dulunya partner dekat, mulai jalan sendiri-sendiri. Startup AI itu terima investasi $13 miliar dan dukungan komputer dari Microsoft sejak 2019. Tapi bulan lalu, mereka dilaporkan teken kesepakatan komputing senilai $300 miliar dengan Oracle, pesaing Microsoft. Sementara itu, Microsoft sudah kembangkan software AI sendiri, termasuk rencana rilis Copilot yang menjanjikan alat AI "berpusat pada manusia."
Suleyman sebelumnya sudah menolak ide tentang kesadaran mesin. Dia peringatkan sistem AI yang bisa meniru bahasa dan tingkah laku manusia bisa bikin mereka lebih susah diatur dan akhirnya kurang bisa melayani manusia dengan baik. Ini adalah ide yang dia tekankan lagi di komentarnya minggu ini.
"Kamu sudah bisa liat dengan beberapa avatar ini dan orang-orang yang masuk ke arah sexbot dan erotika," kata Suleyman Kamis lalu. "Ini sangat berbahaya, dan saya pikir kita harus buat keputusan sadar untuk hindari hal-hal seperti itu."
OpenAI tidak memberikan tanggapan atas permintaan komentar dari Fortune. XAI merespons, "Media Lama Bohong."
Kontroversi Chatbot Erotika
Orang-orang di luar dunia AI juga kritik keputusan OpenAI dan xAI untuk integrasikan lebih banyak konten seksual di chatbot mereka.
Investor miliarder Mark Cuban peringatkan bahwa orang tua mungkin akan tinggalkan ChatGPT jika mereka pikir anak mereka bisa hindari perlindungan verifikasi usia. Mereka malah akan pilih kompetitor OpenAI.
"Ini akan berbalik arah. Keras," tulis Cuban di X menanggapi Altman. "Nggak ada orang tua yang akan percaya bahwa anak mereka nggak bisa melewati batasan usia kamu. Mereka akan suruh anak mereka pakai LLM lainnya. Buat apa ambil resiko?"
Sebagai balasannya, Altman bilang perusahaannya "bukan polisi moral terpilih dunia."
Jessica Ji, seorang analis riset senior di Pusat Keamanan dan Teknologi Emergent Georgetown, bilang ke Fortune bahwa OpenAI sedang dalam posisi sulit untuk membayangkan masa depan kemampuan ChatGPT. Perusahaan itu dapat sinyal dari konsumen bahwa ada permintaan untuk konten erotika di aplikasinya. Tapi mereka harus seimbangkan kepentingan pasar dengan janji ke investor untuk bikin produk AI yang bermanfaat untuk umat manusia.
"Meskipun ada beberapa narasi tentang membangun kecerdasan umum buatan yang akan memacu ekonomi, OpenAI masih coba beroperasi sebagai platform teknologi, dan agak mirip perusahaan media sosial," kata Ji. "Ada ketegangan menarik antara narasi yang dijual ke investor dan politisi… versus hal-hal yang sebenarnya terjadi di pasar."