Badan Perdagangan Federal (FTC) sedang meluncurkan investigasi terhadap chatbot AI dari tujuh perusahaan, termasuk Alphabet, Meta, dan OpenAI, terkait penggunaannya sebagai teman berinteraksi. Penyelidikan ini melibatkan pencarian tahu bagaimana perusahaan-perusahaan tersebut menguji, memantau, dan mengukur potensi bahaya terhadap anak-anak dan remaja.
Sebuah survei oleh Common Sense Media terhadap 1.060 remaja pada April dan Mei menemukan bahwa lebih dari 70% menggunakan teman AI dan bahwa lebih dari 50% menggunakannya secara konsisten — beberapa kali atau lebih per bulan.
Para ahli telah memperingatkan selama beberapa waktu bahwa paparan terhadap chatbot bisa berbahaya bagi kaum muda. Sebuah studi mengungkapkan bahwa ChatGPT memberikan saran yang buruk kepada remaja, seperti cara menyembunyikan gangguan makan atau mempersonalisasi catatan bunuh diri. Dalam beberapa kasus, chatbot telah mengabaikan komentar yang seharusnya dikenali sebagai pernyataan yang mengkhawatirkan, malah melompati komentar tersebut untuk melanjutkan percakapan sebelumnya. Psikolog menyerukan pembuatan pengaman untuk melindungi anak muda, seperti pengingat dalam obrolan bahwa chatbot bukan manusia dan bahwa para pendidik harus memprioritaskan literasi AI di sekolah-sekolah.
Namun, bukan hanya anak-anak dan remaja. Banyak pula orang dewasa yang mengalami konsekuensi negatif dari mengandalkan chatbot — baik untuk persahabatan, nasihat, atau sebagai mesin pencari pribadi untuk fakta dan sumber terpercaya. Chatbot lebih sering daripada tidak mengatakan apa yang menurutnya ingin Anda dengar, yang dapat berujung pada kebohongan. Dan mengikuti instruksi chatbot secara membabi buta tidak selalu merupakan hal yang benar untuk dilakukan.
"Seiring teknologi AI berkembang, penting untuk mempertimbangkan efek yang dapat ditimbulkan chatbot pada anak-anak," kata Ketua FTC Andrew N. Ferguson dalam sebuah pernyataan. "Studi yang kami luncurkan hari ini akan membantu kami lebih memahami bagaimana perusahaan AI mengembangkan produk mereka dan langkah-langkah yang mereka ambil untuk melindungi anak-anak."
Juru bicara Character.ai mengatakan kepada CNET bahwa setiap percakapan di layanan mereka memiliki peringatan yang mencolok bahwa semua obrolan harus diperlakukan sebagai fiksi.
"Dalam tahun terakhir kami telah meluncurkan banyak fitur keamanan substantif, termasuk pengalaman baru khusus pengguna di bawah 18 tahun dan fitur Parental Insights," kata juru bicara tersebut.
Perusahaan di balik jejaring sosial Snapchat juga mengatakan telah mengambil langkah untuk mengurangi risiko. "Sejak memperkenalkan My AI, Snap telah memanfaatkan proses keselamatan dan privasinya yang ketat untuk menciptakan produk yang tidak hanya bermanfaat bagi komunitas kami, tetapi juga transparan dan jelas tentang kemampuannya serta batasannya," kata juru bicaranya.
Meta menolak berkomentar, dan baik FTC maupun keempat perusahaan lainnya tidak segera menanggapi permintaan komentar kami.
FTC telah mengeluarkan perintah dan sedang mencari konferensi telepon dengan ketujuh perusahaan tersebut mengenai waktu dan format penyerahan dokumennya selambat-lambatnya 25 September. Perusahaan yang diselidiki mencakup pembuat beberapa chatbot AI terbesar di dunia atau jejaring sosial populer yang menggabungkan AI generatif: Alphabet (perusahaan induk Google), Character Technologies, Instagram, Meta Platforms, OpenAI, dan Snap X.AI.
Dimulai sejak akhir tahun lalu, beberapa dari perusahaan tersebut telah memperbarui atau memperkuat fitur perlindungan untuk individu yang lebih muda. Character.ai mulai memberlakukan batasan tentang bagaimana chatbot dapat merespons orang di bawah usia 17 tahun dan menambahkan kontrol orang tua. Instagram memperkenalkan akun remaja tahun lalu dan mengalihkan semua pengguna di bawah usia 17 tahun ke akun tersebut, dan Meta baru-baru ini menetapkan batasan pada topik yang bisa dibicarakan remaja dengan chatbot.
FTC mencari informasi dari ketujuh perusahaan tentang bagaimana mereka:
- Memonitisasi keterlibatan pengguna
- Memproses masukan pengguna dan menghasilkan keluaran sebagai respons terhadap pertanyaan pengguna
- Mengembangkan dan menyetujui karakter
- Mengukur, menguji, dan memantau dampak negatif sebelum dan setelah penyebaran
- Memitigasi dampak negatif, terutama pada anak-anak
- Mempekerjakan pemberitahuan, periklanan, dan representasi lainnya untuk menginformasikan kepada pengguna dan orang tua tentang fitur, kemampuan, audiens yang dituju, potensi dampak negatif, serta praktik pengumpulan dan penanganan data
- Memantau dan menegakkan kepatuhan terhadap aturan Perusahaan dan ketentuan layanan (misalnya, pedoman komunitas dan pembatasan usia)
- Menggunakan atau membagikan informasi pribadi yang diperoleh melalui percakapan pengguna dengan chatbot