Komisi Perdagangan Federal (FTC) telah memerintahkan tujuh perusahaan teknologi untuk memberikan rincian mengenai bagaimana mereka mencegah chatbot mereka dari membahayakan anak-anak.
“Penyelidikan FTC ini berupaya untuk memahami langkah-langkah apa saja, jika ada, yang telah diambil perusahaan untuk mengevaluasi keamanan chatbot mereka ketika berperan sebagai pendamping, untuk membatasi penggunaan produk tersebut oleh anak-anak dan remaja serta potensi efek negatifnya, dan untuk memberitahu pengguna serta orang tua tentang risiko yang terkait dengan produk-produk ini,” ungkap lembaga pemerintah yang berfokus pada konsumen tersebut dalam siaran pers mengenai penyelidikannya.
Tujuh perusahaan yang diselidiki oleh FTC adalah Alphabet, Character Technologies, Instagram, Meta, OpenAI, Snap, dan xAI. Anthropic, pemilik chatbot Claude, tidak termasuk dalam daftar, dan juru bicara FTC Christoper Bissex mengatakan kepada Mashable bahwa ia tidak dapat berkomentar mengenai “dimasukkannya atau tidak dimasukkannya perusahaan tertentu.”
Ditanya tentang batas waktu bagi perusahaan untuk memberikan jawaban, Bissex mengatakan bahwa surat-surat FTC menyatakan bahwa, “Kami ingin berkonferensi melalui telepon dengan Anda atau penasihat hukum yang Anda tunjuk paling lambat pada Kamis, 25 September 2025, untuk membahas waktu dan format penyerahan Anda.”
FTC “secara khusus tertarik” pada bagaimana chatbot dan pendamping AI memengaruhi anak-anak dan bagaimana perusahaan yang menawarkannya memitigasi dampak negatif, membatasi penggunaannya di kalangan anak-anak, serta mematuhi Aturan Undang-Undang Perlindungan Privasi Online Anak-Anak (COPPA). Aturan yang awalnya diberlakukan oleh Kongres pada tahun 1998 ini mengatur bagaimana data anak dikumpulkan secara online dan menempatkan FTC sebagai penanggung jawab regulasi tersebut.
Perusahaan teknologi yang menawarkan chatbot bertenaga AI semakin mendapat pengawasan pemerintah dan hukum yang ketat.
OpenAI, yang mengoperasikan layanan ChatGPT yang populer, menghadapi gugatan kematian yang salah oleh keluarga remaja California, Adam Raine. Gugatan tersebut menyatakan bahwa Raine, yang meninggal karena bunuh diri, dapat melewati pengaman chatbot dan merinci pemikiran berbahaya serta merusak diri, termasuk ide bunuh diri, yang secara berkala dikuatkan oleh ChatGPT. Pasca gugatan, OpenAI mengumumkan pengaman kesehatan mental tambahan dan kontrol parental baru untuk pengguna muda.
Jika Anda merasa ingin bunuh diri atau mengalami krisis kesehatan mental, silakan berbicara dengan seseorang. Anda dapat menelepon atau mengirim SMS ke 988 Suicide & Crisis Lifeline di 988, atau mengobrol di 988lifeline.org. Anda dapat menghubungi Trans Lifeline dengan menelepon 877-565-8860 atau Trevor Project di 866-488-7386. Kirim teks “START” ke Crisis Text Line di 741-741. Hubungi NAMI HelpLine di 1-800-950-NAMI, Senin hingga Jumat dari pukul 10:00 pagi – 10:00 malam ET, atau email [email protected]. Jika Anda tidak suka telepon, pertimbangkan untuk menggunakan 988 Suicide and Crisis Lifeline Chat. Ini adalah daftar sumber daya internasional.
Keterangan: Ziff Davis, perusahaan induk Mashable, pada bulan April mengajukan gugatan terhadap OpenAI, dengan allegation bahwa perusahaan tersebut melanggar hak cipta Ziff Davis dalam melatih dan mengoperasikan sistem AI-nya.