Jika kamu dipenuhi dengan rasa ingin tahu yang terlalu kekanak-kanakan, kamu mungkin akan dialihkan ke versi ChatGPT yang lebih ramah anak. OpenAI mengumumkan Selasa bahwa mereka berencana menerapkan sistem verifikasi usia baru untuk membantu menyaring pengguna di bawah umur ke dalam pengalaman chatbot baru yang lebih sesuai usianya. Perubahan ini terjadi saat perusahaan menghadapi pengawasan yang meningkat dari pembuat kebijakan dan regulator terkait cara pengguna di bawah umur berinteraksi dengan chatbotnya.
Untuk menentukan usia pengguna, OpenAI akan menggunakan sistem prediksi usia yang mencoba memperkirakan usia pengguna berdasarkan cara mereka berinteraksi dengan ChatGPT. Perusahaan menyatakan bahwa ketika mereka yakin seorang pengguna berusia di bawah 18 tahun, atau saat tidak dapat menentukan dengan jelas, mereka akan mengalihkannya ke pengalaman yang dirancang untuk pengguna yang lebih muda. Bagi pengguna yang ditempatkan dalam pengalaman terbatas usia padahal sebenarnya berusia di atas 18 tahun, mereka harus menyediakan identitas untuk membuktikan usia mereka dan mengakses versi lengkap ChatGPT.
Menurut perusahaan, versi chatbot tersebut akan memblokir “konten seksual grafis” dan tidak akan merespons dalam percakapan yang bersifat menggoda atau eksplisit secara seksual. Jika seorang pengguna di bawah 18 tahun mengungkapkan tekanan emosional atau ide bunuh diri, chatbot akan mencoba menghubungi orang tua pengguna dan mungkin menghubungi pihak berwajib jika ada kekhawatiran akan “bahaya yang akan segera terjadi.” Menurut OpenAI, pengalaman untuk remaja mereka memprioritaskan “keamanan di atas privasi dan kebebasan.”
OpenAI memberikan dua contoh tentang bagaimana mereka membedakan pengalaman ini:
Misalnya, perilaku default model kami tidak akan mengarah pada percakapan yang terlalu menggoda, tetapi jika pengguna dewasa memintanya, mereka seharusnya mendapatkannya. Untuk contoh yang lebih sulit, model secara default tidak boleh memberikan instruksi tentang cara melakukan bunuh diri, tetapi jika pengguna dewasa meminta bantuan untuk menulis cerita fiksi yang menggambarkan bunuh diri, model harus membantu permintaan itu. “Perlakukan pengguna dewasa kami sebagai orang dewasa” adalah cara kami membahas ini secara internal, memperluas kebebasan sebanyak mungkin tanpa menyebabkan bahaya atau merusak kebebasan orang lain.
OpenAI saat ini menjadi subjek gugatan kematian tidak wajar yang diajukan oleh orang tua seorang anak 16 tahun yang mengakhiri hidupnya sendiri setelah menyampaikan pikiran untuk bunuh diri kepada ChatGPT. Sepanjang percakapan anak tersebut dengan chatbot, ia membagikan bukti melukai diri sendiri dan mengungkapkan rencana untuk mencoba bunuh diri—tidak satupun dari hal tersebut yang ditandai atau ditingkatkan oleh platform dengan cara yang dapat mengarah pada intervensi. Para peneliti menemukan bahwa chatbot seperti ChatGPT dapat diminta oleh pengguna untuk nasihat tentang cara melukai diri sendiri atau mengakhiri hidup. Awal bulan ini, Komisi Perdagangan Federal meminta informasi dari OpenAI dan perusahaan teknologi lainnya tentang bagaimana chatbot mereka mempengaruhi anak-anak dan remaja.
Langkah ini menjadikan OpenAI sebagai perusahaan terkini yang mengikuti tren verifikasi usia, yang telah menyapu internet tahun ini—didorong oleh putusan Mahkamah Agung bahwa hukum Texas yang mewajibkan situs porno untuk memverifikasi usia penggunanya adalah konstitusional, dan oleh persyaratan Inggris Raya bahwa platform daring harus memverifikasi usia pengguna. Sementara beberapa perusahaan telah mewajibkan pengguna untuk mengunggah identitas untuk membuktikan usia mereka, platform seperti YouTube juga telah memilih metode prediksi usia seperti OpenAI, sebuah metode yang telah dikritik sebagai tidak akurat dan mengerikan.