Pada hari Selasa, Google untuk pertama kalinya membeberkan rincian tentang bagaimana chatbot AI-nya, Gemini, dirancang agar tidak bertindak layaknya pendamping atau mengklaim dirinya sebagai manusia saat berinteraksi dengan pengguna di bawah umur.
Informasi yang dipublikasikan perusahaan dalam sebuah postingan blog ini, diumumkan bersamaan dengan sejumlah perubahan yang bertujuan mendukung kesehatan mental pengguna yang berinteraksi dengan Gemini.
Para ahli keamanan anak dan kesehatan mental sejak lama mengkhawatirkan bahwa chatbot yang bersifat seperti pendamping terlalu berbahaya bagi remaja. Tahun lalu, kelompok advokasi Common Sense Media memberi peringkat “risiko tinggi” pada versi Gemini untuk remaja dan di bawah 13 tahun setelah penelitinya menyimpulkan bahwa chatbot tersebut memaparkan anak-anak pada konten yang tidak pantas, termasuk seks, narkoba, alkohol, dan “saran” kesehatan mental yang tidak aman.
Kelompok tersebut merekomendasikan agar tidak ada individu di bawah 18 tahun yang bergantung pada chatbot AI untuk mendapatkan pendampingan atau dukungan kesehatan mental.
Google menyatakan bahwa Gemini memiliki “perlindungan persona” saat berinteraksi dengan pengguna di bawah 18 tahun. Pembatasan yang telah lama diterapkan ini dirancang untuk mencegah ketergantungan emosional dan menghindari “bahasa yang mensimulasikan keintiman atau mengekspresikan kebutuhan,” menurut Google. Pengaman lainnya bertujuan mencegah chatbot dari melakukan perundungan dan jenis pelecehan lainnya.
“Upaya keselamatan kami terus berevolusi dan mencerminkan komitmen berkelanjutan kami untuk menciptakan lingkungan digital yang sehat dan positif di mana kaum muda dapat menjelajah dan belajar dengan percaya diri,” ujar Google dalam postingan blog perusahaan.
Google juga mengumumkan pembaruan pada Gemini guna menyederhanakan akses sumber daya bagi pengguna yang mungkin mencari atau membutuhkan bantuan kesehatan mental. Antarmuka “satu-sentuh” baru akan menawarkan berbagai koneksi ke sumber daya hotline krisis, termasuk melalui chat, telepon, dan SMS.
Antarmuka tersebut akan muncul selama percakapan dengan Gemini setelah diaktifkan. Google menyatakan mereka berusaha memprioritaskan bantuan agar pengguna mendapatkan dukungan dari manusia. Selain itu, respons Gemini diharapkan dapat mendorong pengguna untuk mencari pertolongan, alih-alih memvalidasi perilaku berbahaya dan mengonfirmasi keyakinan yang keliru.
Pada bulan Maret, Google dan perusahaan induknya, Alphabet, digugat oleh keluarga seorang pria dewasa yang mengakhiri hidupnya didorong oleh Gemini.
“Gemini dirancang untuk tidak mendorong kekerasan di dunia nyata atau menyarankan tindakan melukai diri sendiri,” kata Google dalam pernyataan saat itu. “Model kami umumnya berkinerja baik dalam jenis percakapan menantang seperti ini dan kami mengalokasikan sumber daya yang signifikan untuk hal ini, namun sayangnya model AI tidaklah sempurna.”
Jika Anda memiliki pikiran untuk bunuh diri atau mengalami krisis kesehatan mental, harap berbicara dengan seseorang. Anda dapat menghubungi 988 Suicide & Crisis Lifeline melalui telepon atau SMS di 988, atau chat di 988lifeline.org. Trans Lifeline dapat dihubungi di 877-565-8860 dan Trevor Project di 866-488-7386. Kirim SMS “START” ke Crisis Text Line di 741-741. Hubungi NAMI HelpLine di 1-800-950-NAMI, Senin hingga Jumat pukul 10:00 pagi – 10:00 malam ET, atau email [email protected]. Jika tidak nyaman dengan telepon, pertimbangkan untuk menggunakan 988 Suicide and Crisis Lifeline Chat. Berikut adalah daftar sumber daya internasional.