OpenAI berencana mengizinkan cakupan konten yang lebih luas, termasuk erotika, pada chatbot populer mereka ChatGPT sebagai bagian dari upaya untuk “memperlakukan pengguna dewasa layaknya orang dewasa,” ujar bos mereka Sam Altman.
Dalam sebuah postingan di X pada hari Selasa, Altman menyatakan bahwa versi-versi chatbot populer tersebut yang akan datang akan memungkinkannya bersikap lebih mirip manusia – “tetapi hanya jika Anda menginginkannya, bukan karena kami memaksimalkan penggunaan.”
Langkah ini, yang mengingatkan pada pengenalan dua chatbot eksplisit seksual oleh xAI Elon Musk baru-baru ini ke Grok, dapat membantu OpenAI menarik lebih banyak pelanggan berbayar.
Hal ini juga kemungkinan akan meningkatkan tekanan pada pembuat undang-undang untuk menerapkan pembatasan yang lebih ketat pada chatbot companion.
OpenAI tidak menanggapi permintaan komentar dari BBC menyusul postingan Altman tersebut.
Perubahan yang diumumkan perusahaan ini datang setelah mereka digugat awal tahun ini oleh orang tua dari seorang remaja AS yang mengambil nyawanya sendiri.
Gugatan yang diajukan oleh Matt dan Maria Raine, orang tua dari Adam Raine yang berusia 16 tahun, merupakan tindakan hukum pertama yang menuduh OpenAI melakukan kelalaian hingga menyebabkan kematian.
Pasangan dari California tersebut mengkritik kontrol orang tua dari perusahaan – yang katanya dirancang untuk mempromosikan penggunaan chatbot yang lebih sehat – dengan menyatakan bahwa kontrol itu belum cukup.
Keluarga itu menyertakan log percakapan antara Adam, yang meninggal pada bulan April, dan ChatGPT yang menunjukkan dirinya menjelaskan bahwa ia memiliki pikiran untuk bunuh diri.
Altman mengatakan bahwa OpenAI sebelumnya membuat ChatGPT “cukup restriktif untuk memastikan kami berhati-hati dalam menangani isu kesehatan mental.”
“Kami menyadari hal ini membuatnya kurang berguna/menyenangkan bagi banyak pengguna yang tidak memiliki masalah kesehatan mental, namun mengingat keseriusan masalahnya, kami ingin menanganinya dengan benar,” ujar Altman.
Dia mengatakan perusahaan kini telah dapat memitigasi risiko kesehatan mental yang serius dan memiliki alat-alat baru yang memungkinkannya “dengan aman melonggarkan pembatasan dalam sebagian besar kasus.”
“Pada bulan Desember, seiring kami menerapkan age-gating lebih menyeluruh dan sebagai bagian dari prinsip ‘memperlakukan pengguna dewasa layaknya orang dewasa’, kami akan mengizinkan lebih banyak lagi, seperti erotika untuk dewasa terverifikasi,” katanya.
Para kritikus menyatakan keputusan OpenAI untuk mengizinkan konten erotika di platformnya menunjukkan kebutuhan akan regulasi lebih lanjut di tingkat federal dan negara bagian.
“Bagaimana cara mereka memastikan bahwa anak-anak tidak dapat mengakses bagian-bagian ChatGPT yang hanya untuk dewasa dan menyediakan erotika?” tanya Jenny Kim, seorang partner di firma hukum Boies Schiller Flexner. “Open AI, seperti sebagian besar raksasa teknologi di bidang ini, hanya menggunakan orang seperti kelinci percobaan.”
Kim terlibat dalam gugatan terhadap Meta yang mengklaim bahwa algoritma Instagram perusahaan tersebut membahayakan kesehatan mental pengguna remaja.
“Kita bahkan tidak tahu apakah age-gating mereka akan berfungsi,” ujarnya.
Pada bulan April, TechCrunch melaporkan bahwa OpenAI mengizinkan akun-akun di mana pengguna mendaftar sebagai minoritas untuk menghasilkan erotika grafis.
OpenAI menyatakan pada saat itu bahwa perusahaan sedang meluncurkan perbaikan untuk membatasi konten semacam itu.
Sebuah survei yang diterbitkan bulan ini oleh nonprofit Centre for Democracy and Technology (CDT) menemukan bahwa satu dari lima siswa melaporkan bahwa mereka atau seseorang yang mereka kenal memiliki hubungan romantis dengan AI.
Pada hari Senin, Gubernur California Gavin Newsom memveto RUU yang disahkan oleh legislatif negara bagian yang akan memblokir pengembang dari menawarkan chatbot companion AI kepada anak-anak kecuali perusahaan dapat menjamin perangkat lunak tersebut tidak akan menumbuhkan perilaku berbahaya.
Newsom menyatakan bahwa “sangat penting bagi remaja untuk belajar bagaimana berinteraksi dengan aman dengan sistem AI” dalam pesan yang menyertai vetonya.
Di tingkat nasional, Komisi Perdagangan Federal AS (FTC) telah meluncurkan penyelidikan tentang bagaimana chatbot AI berinteraksi dengan anak-anak.
Di Senat AS bulan lalu, undang-undang bipartisan diperkenalkan yang akan mengklasifikasikan chatbot AI sebagai produk. Hukum tersebut akan memungkinkan pengguna untuk mengajukan klaim liabilitas terhadap pengembang chatbot.
Pengumuman Altman pada hari Selasa ini datang ketika para skeptis telah mempertanyakan kenaikan nilai perusahaan teknologi AI yang begitu cepat.
Pendapatan OpenAI tumbuh, tetapi perusahaan tersebut tidak pernah profitable.
Profesor bisnis Universitas Tulane Rob Lalka, yang menulis buku terbaru *The Venture Alchemists*, mengatakan perusahaan-perusahaan AI besar menemukan diri mereka dalam pertarungan memperebutkan pangsa pasar.
“Tidak ada perusahaan yang pernah mengalami adopsi seperti yang dialami OpenAI dengan ChatGPT,” kata Lalka kepada BBC.
“Mereka perlu terus mendorong sepanjang kurva pertumbuhan eksponensial itu, mencapai dominasi pasar sebanyak yang mereka bisa.”