Orang-orang mengungkapkan kekhawatiran tentang chatbot AI menggantikan atau mengendapkan kecerdasan manusia. Misalnya, chatbot dapat menulis sebuah esai seluruhnya dalam hitungan detik, meningkatkan kekhawatiran tentang siswa curang dan tidak belajar cara menulis dengan benar. Ketakutan ini bahkan membuat beberapa distrik sekolah memblokir akses ketika ChatGPT diluncurkan awalnya. Sekarang, tidak hanya banyak sekolah tersebut memutuskan untuk membuka teknologi tersebut, tetapi beberapa institusi pendidikan tinggi telah mulai menyesuaikan penawaran akademik mereka untuk kursus terkait AI. Juga: AI Generatif dapat menjadi asisten akademik yang dibutuhkan oleh siswa yang kurang mendapat perhatian. Salah satu kekhawatiran lain dengan chatbot AI adalah penyebaran informasi yang salah. ChatGPT mengatakan: “Respon saya tidak dimaksudkan untuk diambil sebagai fakta, dan saya selalu mendorong orang untuk memverifikasi setiap informasi yang mereka terima dari saya atau sumber lain.” OpenAI juga mencatat bahwa ChatGPT terkadang menulis jawaban yang “masuk akal tetapi salah atau tidak masuk akal.” Terakhir, ada kekhawatiran etis dan privasi mengenai informasi yang ChatGPT pelajari. OpenAI mengambil data dari internet untuk melatih chatbot tanpa meminta izin pemilik konten untuk menggunakan kontennya, yang menimbulkan banyak kekhawatiran hak cipta dan kekayaan intelektual. Juga ada kekhawatiran privasi mengenai model AI generatif yang menggunakan data Anda untuk melatih model mereka lebih lanjut, yang merupakan praktik umum untuk peningkatan. OpenAI memungkinkan Anda mematikan pelatihan dalam pengaturan ChatGPT. Jadi, apakah ChatGPT aman? Jika kekhawatiran utama Anda adalah privasi, OpenAI telah menerapkan beberapa opsi untuk memberikan rasa tenang kepada pengguna bahwa data mereka tidak akan digunakan untuk melatih model lebih lanjut. Perusahaan bahkan memungkinkan pengguna untuk mematikan riwayat obrolan. Tetapi banyak masalah harus dijelaskan jika Anda khawatir tentang masalah moral dan etika.
