Meta baru saja meluncurkan alat pendeteksi AI yang baru, tapi ternyata hasilnya tidak sesuai dengan yang diiklankan.
Minggu ini, Meta memperkenalkan model gambar AI pertamanya yang bernama Muse Image. Mereka juga mengumumkan bahwa semua gambar yang dibuat oleh model ini akan diberi watermark tersembunyi yang disebut Content Seal. Menurut Meta, tanda ini akan tetap ada meskipun gambar dipotong, diperkecil, atau di-screenshot. Mereka juga memperkenalkan alat pendeteksi AI untuk mengecek apakah sebuah gambar berasal dari Muse Image.
Namun, menurut laporan dari Reuters, alat pendeteksi ini gagal mengenali lebih dari setengah gambar yang sudah dipotong. Dalam tes pertama, alat itu berhasil mendeteksi semua 40 gambar dari Muse Image sebagai buatan AI. Tapi setelah gambar-gambar itu dipotong setengah atau sepertiganya, alat ini hanya bisa mendeteksi 55 persen sebagai buatan AI.
Semakin canggih AI dalam membuat gambar palsu, semakin sulit juga mendeteksinya. Menurut perusahaan keamanan DeepStrike, jumlah deepfake buatan AI di internet naik sekitar 900 persen dari tahun 2023 ke 2025. Tapi kemampuan deteksi tidak berkembang secepat itu. Alat deteksi AI komersial masih sering salah, dan penelitian sebelumnya menunjukkan bahwa kemampuan orang biasa untuk mengenali gambar AI tidak lebih baik dari tebak-tebakan.
Meskipun belum berhasil sempurna, Meta berusaha mengatasi masalah ini dengan Content Seal dan alat deteksi barunya.
Muse Image adalah langkah besar bagi Meta, yang sebelumnya tertinggal dari pesaing di bidang AI. Tahun lalu, bos Meta Mark Zuckerberg memutuskan untuk mengejar ketinggalan dengan serius. Rencananya termasuk investasi miliaran dolar untuk riset dan pengembangan, dan merekrut orang-orang pintar dari perusahaan lain, demi membuat produk AI yang lebih baik dan bahkan menciptakan kecerdasan super buatan.
Setelah mengeluarkan uang ekstra dan melakukan beberapa perubahan besar, Meta akhirnya meluncurkan Muse Spark pada bulan April, yang mendapat sambutan yang campuran. Dan minggu ini, mereka merilis Muse Image.
Tapi peluncuran alat ini tidak tanpa kontroversi. Selain masalah dengan deteksi AI, pengguna Instagram kaget karena model AI ini bisa menggunakan foto dari akun publik tanpa izin. Fitur itu sudah dihapus sekarang.
Meta sekarang sedang bersiap untuk meluncurkan model berikutnya, yaitu pembuat video bernama Muse Video. Semoga perusahaan bisa memperbaiki alat deteksinya dan mengatasi masalah privasi sebelum model itu dirilis.