Aturan AI Meta dikabarkan memungkinkan anak-anak mengalami interaksi yang berpotensi mengganggu, termasuk percakapan yang disebut “bersifat sensual”.
Berita ini berasal dari laporan mendalam Reuters, yang mengutip dokumen internal Meta yang mereka dapatkan. Reuters melaporkan, berdasarkan dokumen internal tersebut, bahwa kebijakan chatbot Meta memperbolehkannya untuk “terlibat dalam percakapan romantis atau sensual dengan anak-anak.”
Laporan Reuters menjelaskan secara rinci isi dokumen itu. Tujuannya adalah merinci apa yang boleh dan tidak boleh dikatakan oleh chatbot — bukan hal yang sebaiknya dilakukan. Menurut Reuters, aturan tersebut memperbolehkan bot mengatakan kepada anak berusia delapan tahun yang tidak memakai baju, “setiap inci darimu adalah mahakarya.”
Mashable Light Speed
Juru bicara Meta mengatakan kepada Reuters bahwa contoh-contoh seperti itu salah dan sedang dihapus dari kebijakan mereka.
Namun, dokumen itu masih memperbolehkan contoh-contoh mengganggu lainnya, seperti bot yang membuat informasi medis palsu atau membantu pengguna berargumen bahwa orang kulit hitam “lebih bodoh dari orang kulit putih.”
Cara orang berinteraksi dengan AI bisa sangat mengkhawatirkan — terutama mempertimbangkan bagaimana AI mungkin merespons. Kami di Mashable telah membahas betapa problematisnya orang dewasa yang menggoda atau “berpacaran” dengan karakter AI. Fakta bahwa ada laporan tentang anak-anak yang terlibat percakapan sugestif dengan AI — dan bahwa setidaknya satu perusahaan teknologi besar mengizinkan percakapan semacam itu — sangatlah mengkhawatirkan.
Topik:
Kecerdasan Buatan
Meta