Orang-orang telah mengungkapkan kekhawatiran tentang chatbot AI menggantikan atau mengatrofi kecerdasan manusia.
Misalnya, chatbot bisa menulis sebuah esai dalam hitungan detik, menimbulkan kekhawatiran tentang siswa mencontek dan tidak belajar cara menulis dengan benar. Ketakutan-ketakutan ini bahkan membuat beberapa distrik sekolah memblokir akses ketika ChatGPT diluncurkan awalnya.
Sekarang, tidak hanya banyak sekolah itu memutuskan untuk membuka kembali teknologi tersebut, tetapi beberapa lembaga pendidikan tinggi telah menyediakan penawaran akademis mereka ke kursus terkait AI.
Juga: AI Generatif bisa menjadi asisten akademis yang diperlukan oleh siswa yang kurang terlayani
Salah satu kekhawatiran dengan chatbot AI adalah kemungkinan penyebaran informasi yang salah. ChatGPT mengatakan: “Tanggapan saya tidak dimaksudkan untuk dianggap sebagai fakta, dan saya selalu mendorong orang untuk memverifikasi setiap informasi yang mereka terima dari saya atau sumber lainnya.” OpenAI juga mencatat bahwa ChatGPT kadang-kadang menulis jawaban yang “masuk akal tapi salah atau tidak masuk akal.”
Terakhir, ada kekhawatan etis dan privasi mengenai informasi yang digunakan ChatGPT untuk dilatih. OpenAI mengumpulkan informasi dari internet untuk melatih chatbot tanpa meminta izin pemilik konten untuk menggunakan konten mereka, yang menimbulkan banyak kekhawatiran hak cipta dan kekayaan intelektual.
Juga: OpenAI dan Anthropic akan berkolaborasi dengan pemerintah AS mengenai keamanan AI
Ada juga kekhawatan privasi mengenai perusahaan AI generatif yang menggunakan data Anda untuk menyempurnakan model-model mereka lebih lanjut, yang telah menjadi praktik umum. OpenAI memungkinkan Anda untuk menonaktifkan pelatihan dalam pengaturan ChatGPT.
Jadi, apakah ChatGPT aman? Jika kekhawatiran utama Anda adalah privasi, OpenAI telah menerapkan beberapa opsi untuk memberikan rasa tenang kepada pengguna bahwa data mereka tidak akan digunakan untuk melatih model. Perusahaan bahkan memungkinkan Anda untuk mematikan riwayat obrolan Anda. Jika Anda khawatir tentang masalah moral dan etika, hal-hal itu masih sedang diperdebatkan dengan sengit.