OpenAI mengumumkan fitur keamanan baru bagi remaja untuk ChatGPT pada hari Selasa sebagai bagian dari upaya berkelanjutan untuk merespons kekhawatiran mengenai cara kaum minor berinteraksi dengan chatbot. Perusahaan sedang membangun sebuah sistem prediksi usia yang mengidentifikasi apakah pengguna berusia di bawah 18 tahun dan mengarahkan mereka ke sistem “sesuai usia” yang memblokir konten seksual grafis. Jika sistem mendeteksi bahwa pengguna sedang mempertimbangkan bunuh diri atau melukai diri sendiri, sistem akan menghubungi orang tua pengguna. Dalam kasus bahaya yang sudah sangat dekat, jika orang tua pengguna tidak dapat dihubungi, sistem dapat menghubungi pihak berwajib.
Dalam sebuah postingan blog tentang pengumuman ini, CEO Sam Altman menulis bahwa perusahaan berusaha menyeimbangkan kebebasan, privasi, dan keamanan remaja.
“Kami menyadari bahwa prinsip-prinsip ini saling bertentangan, dan tidak semua orang akan setuju dengan cara kami menyelesaikan konflik tersebut,” tulis Altman. “Ini adalah keputusan yang sulit, tetapi setelah berkonsultasi dengan para ahli, inilah yang kami anggap terbaik dan ingin transparan dalam niat kami.”
Sementara OpenAI cenderung memprioritaskan privasi dan kebebasan bagi pengguna dewasa, untuk remaja perusahaan mengatakan mereka mengutamakan keamanan. Pada akhir September, perusahaan akan meluncurkan kontrol orang tua sehingga orang tua dapat mengaitkan akun anak mereka dengan akun mereka sendiri, memungkinkan mereka untuk mengelola percakapan dan menonaktifkan fitur tertentu. Orang tua juga dapat menerima notifikasi ketika “sistem mendeteksi remaja mereka berada dalam momen tekanan emosional akut,” menurut postingan blog perusahaan, dan menetapkan batasan waktu dalam sehari anak-anak mereka dapat menggunakan ChatGPT.
Langkah-langkah ini muncul seiring dengan terus bermunculannya berita utama yang sangat mencemaskan tentang orang yang meninggal karena bunuh diri atau melakukan kekerasan terhadap anggota keluarga setelah terlibat dalam percakapan panjang dengan chatbot AI. Para pembuat undang-undang telah menyadarinya, dan baik Meta maupun OpenAI sedang mendapat pengawasan. Awal bulan ini, Komisi Perdagangan Federal meminta Meta, OpenAI, Google, dan perusahaan AI lainnya untuk menyerahkan informasi tentang bagaimana teknologi mereka mempengaruhi anak-anak, menurut Bloomberg.
Pada saat yang sama, OpenAI masih berada di bawah perintah pengadilan yang mewajibkannya untuk menyimpan percakapan konsumer tanpa batas waktu—sebuah fakta yang sangat tidak disukai oleh perusahaan, menurut sumber-sumber yang saya ajak bicara. Berita hari ini merupakan langkah penting menuju perlindungan anak di bawah umur sekaligus langkah PR yang cerdik untuk memperkuat gagasan bahwa percakapan dengan chatbot begitu pribadi sehingga privasi konsumen hanya boleh dilanggar dalam keadaan yang paling ekstrem.
“Avatar Sexbot di ChatGPT”
Dari sumber-sumber yang saya ajak bicara di OpenAI, beban untuk melindungi pengguna sangat berat bagi banyak peneliti. Mereka ingin menciptakan pengalaman pengguna yang menyenagkan dan menarik, tetapi itu dapat dengan cepat berubah menjadi sangat menjilat yang dapat berakibat buruk. Adalah positif bahwa perusahaan seperti OpenAI mengambil langkah untuk melindungi anak di bawah umur. Namun, dalam ketiadaan regulasi federal, masih tidak ada yang memaksa perusahaan-perusahaan ini untuk melakukan hal yang benar.
Dalam sebuah wawancara baru-baru ini, Tucker Carlson mendesak Altman untuk menjawab tepatnya siapa yang membuat keputusan ini yang mempengaruhi kita semua. Kepala OpenAI menunjuk pada tim perilaku model, yang bertanggung jawab untuk menyetel model untuk atribut-atribut tertentu. “Orang yang saya pikir Anda harus pertanggungjawabkan untuk keputusan-keputusan itu adalah saya,” tambah Altman. “Saya adalah wajah publik. Pada akhirnya, sayalah yang dapat membatalkan salah satu dari keputusan tersebut atau dewan kami.”