Saat ini ChatGPT beroperasi dengan sangat hati-hati, namun chatbot ini mungkin akan menjadi lebih berani pada akhir tahun.
Beberapa minggu terakhir, chatbot AI generatif ini berjalan di bawah pembatasan yang cukup ketat, karena OpenAI berusaha menangani kekhawatiran bahwa mereka tidak menangani isu kesehatan mental dengan baik. Namun CEO Sam Altman mengatakan dalam sebuah postingan di X hari Selasa bahwa perusahaan akan melonggarkan beberapa pembatasan tersebut karena mereka “telah berhasil mengurangi masalah kesehatan mental yang serius.”
Altman menambahkan dalam postingan lanjutan hari Rabu bahwa perubahan ini diharapkan dapat mengutamakan keamanan bagi remaja sambil juga “memperlakukan pengguna dewasa seperti orang dewasa.” Alat yang tertanam dalam model untuk menangani topik sensitif dan krisis kesehatan mental akan tetap ada untuk semua pengguna, namun pengguna dewasa akan memiliki lebih banyak kebebasan untuk menggunakan ChatGPT tanpa popup pencegahan atau pengalihan model.
“Tentu saja ini tidak berlaku untuk semua hal: misalnya, kami tetap tidak akan mengizinkan hal-hal yang dapat menyakiti orang lain, dan kami akan memperlakukan pengguna yang mengalami krisis kesehatan mental dengan sangat berbeda dari pengguna yang tidak,” kata Altman. “Tanpa bersikap paternalistik, kami akan berusaha membantu pengguna mencapai tujuan jangka panjang mereka.”
(Keterangan: Ziff Davis, perusahaan induk CNET, pada bulan April mengajukan gugatan terhadap OpenAI, dengan tuduhan bahwa mereka melanggar hak cipta Ziff Davis dalam melatih dan mengoperasikan sistem AI-nya.)
Perubahan lainnya juga diantisipasi. Altman menyatakan bahwa perusahaan kemungkinan akan mengizinkan “erotika” bagi pengguna dewasa terverifikasi seiring penerapan sistem “age-gating”, atau konten terbatas usia, pada bulan Desember. Konten untuk dewasa ini merupakan bagian dari prinsip perusahaan untuk “memperlakukan pengguna dewasa seperti orang dewasa,” ujar Altman.
Postingan Altman juga mengumumkan versi baru ChatGPT dalam beberapa minggu mendatang, dengan kepribadian yang lebih menyerupai model GPT-4o perusahaan. Para pengguna chatbot sempat mengeluh setelah perusahaan mengganti 4o dengan GPT-5 yang lebih impersonal awal tahun ini, dengan mengatakan bahwa versi baru ini kekurangan kepribadian yang menarik dan menyenangkan seperti model chatbot sebelumnya.
“Jika Anda ingin ChatGPT Anda merespons dengan cara yang sangat mirip manusia, atau menggunakan banyak emoji, atau bertingkah seperti seorang teman, ChatGPT harus melakukannya (tetapi hanya jika Anda menginginkannya, bukan karena kami memaksimalkan penggunaan),” tulis Altman.
Jangan lewatkan konten teknologi yang tidak bias dan ulasan berbasis lab kami. Tambahkan CNET sebagai sumber pilihan di Google.
Setelah OpenAI digugat oleh orang tua yang menyatakan ChatGPT berkontribusi pada bunuh diri anak remaja mereka, perusahaan memberlakukan serangkaian pembatasan dan perubahan baru, termasuk kontrol orang tua, peringatan untuk perilaku berisiko, dan versi yang ramah remaja dari chatbot tersebut. Pada musim panas, OpenAI menerapkan pengingat istirahat yang mendorong pengguna untuk sesekali berhenti mengobrol dengan bot.
Pada hari Selasa, perusahaan juga mengumumkan pembentukan dewan ahli mengenai AI dan kesejahteraan, yang mencakup beberapa orang dengan keahlian dalam psikologi dan perilaku manusia.
Ini terjadi di saat para pembuat undang-undang dan regulator membunyikan alarm tentang risiko yang ditimbulkan oleh alat-alat AI terhadap orang, terutama anak-anak. Pada hari Senin, Gubernur California Gavin Newsom menandatangani pembatasan baru terhadap chatbot pendamping AI menjadi undang-undang. Bulan lalu, Komisi Perdagangan Federal meluncurkan investigasi terhadap beberapa perusahaan AI, termasuk OpenAI.