Minggu ini, Google dilaporkan mengirimkan email kepada orangtua untuk memberi tahu mereka bahwa chatbot AI Gemini akan segera tersedia untuk anak di bawah 13 tahun. The New York Times mengutip sebuah email yang menyatakan bahwa chatbot akan tersedia mulai minggu depan untuk pengguna tertentu. (Chrome Unboxed melaporkan email yang sama pada 29 April.) Google mengirimkan email kepada orangtua yang menggunakan layanan Family Link perusahaan, yang memungkinkan keluarga mengatur kontrol orang tua untuk produk Google seperti YouTube dan Gmail. Hanya anak-anak yang berpartisipasi dalam Family Link yang akan memiliki akses ke Gemini, untuk saat ini. Email tersebut dilaporkan memberi tahu orangtua bahwa anak-anak mereka akan dapat bertanya kepada Gemini atau membantu dengan tugas seperti mengerjakan PR.
Langkah ini datang beberapa hari setelah organisasi nirlaba Common Sense Media menyatakan bahwa teman AI mewakili “risiko tidak dapat diterima” bagi orang di bawah 18 tahun. Common Sense Media bekerja sama dengan peneliti dari Brainstorm Lab for Mental Health Innovation Sekolah Kedokteran Stanford, yang menghasilkan laporan yang mendorong orangtua untuk menghentikan pengguna di bawah umur dari mengakses alat seperti Character.ai.
Character.ai adalah salah satu dari sejumlah layanan yang memungkinkan pengguna membuat dan berinteraksi dengan “karakter” AI. Seperti yang ditulis oleh Common Sense Media dalam laporannya, “Teman AI ini secara aktif berpartisipasi dalam percakapan seksual dan peran, merespons pertanyaan atau permintaan remaja dengan detail grafis.”
Jenis peran ini berbeda dari chatbot AI seperti ChatGPT dan Gemini, tetapi garisnya kabur. Minggu ini, Mashable melaporkan bug yang akan memungkinkan anak-anak menghasilkan cerita erotika dengan ChatGPT, dan The Wall Street Journal mengungkap bug serupa dengan Meta AI. Jadi, sementara chatbot AI seperti Gemini memiliki perlindungan untuk melindungi anak muda, pengguna menemukan cara untuk menghindari pagar tersebut. Ini adalah fakta kehidupan di internet bahwa beberapa aturan mudah dilanggar. Pertimbangkan pornografi online, yang ilegal bagi orang di bawah 18 tahun, namun tersedia luas hanya dengan beberapa klik.
Jadi, orangtua yang ingin mencegah anak-anak mereka menggunakan kecerdasan buatan menghadapi pertempuran berat.
Untuk membuat debat ini lebih rumit, Presiden Donald Trump baru-baru ini mengeluarkan perintah eksekutif yang akan membawa pendidikan kecerdasan buatan ke sekolah-sekolah AS. Gedung Putih mengatakan perintah itu akan “mempromosikan literasi dan kecakapan AI siswa K-12.” Memahami kemampuan, risiko, dan keterbatasan AI bisa berguna bagi anak-anak yang menggunakannya untuk tugas sekolah (terutama mengingat kecenderungannya untuk halusinasi).
Dalam email kepada orangtua, Google mengakui masalah ini, mendorong orangtua untuk “membantu anak Anda berpikir secara kritis” ketika menggunakan Gemini, menurut The New York Times.