OpenAI sedang mengembangkan alat deteksi gambar AI baru

OpenAI telah menambahkan alat baru untuk mendeteksi apakah sebuah gambar dibuat dengan generator gambar AI DALL-E-nya, serta metode watermarking baru untuk lebih jelas menandai konten yang dihasilkan. Dalam sebuah pos blog, OpenAI mengumumkan bahwa mereka telah mulai mengembangkan metode provenance baru untuk melacak konten dan membuktikan apakah itu dihasilkan oleh AI. Ini termasuk klasifikasi deteksi gambar baru yang menggunakan AI untuk menentukan apakah foto tersebut dihasilkan oleh AI, serta watermark yang tahan terhadap manipulasi yang dapat menandai konten seperti audio dengan sinyal yang tidak terlihat. Klasifikasi memprediksi kemungkinan bahwa sebuah gambar dibuat oleh DALL-E 3. OpenAI mengklaim klasifikasi tersebut bekerja bahkan jika gambar dipotong atau dikompres atau saturasinya diubah. Meskipun alat tersebut dapat mendeteksi apakah gambar dibuat dengan DALL-E 3 dengan akurasi sekitar 98 persen, kinerjanya dalam mengetahui apakah konten berasal dari model AI lainnya tidak sebaik itu, hanya menandai 5 hingga 10 persen gambar dari generator gambar lain, seperti Midjourney. OpenAI sebelumnya menambahkan kredensial konten ke metadata gambar dari Koalisi Provenance Konten dan Otoritas (C2PA). Kredensial konten pada dasarnya adalah watermark yang mencakup informasi tentang siapa yang memiliki gambar dan bagaimana cara pembuatannya. OpenAI, bersama dengan perusahaan seperti Microsoft dan Adobe, adalah anggota C2PA. Bulan ini, OpenAI juga bergabung dengan komite pengarah C2PA. Baik klasifikasi gambar maupun sinyal watermarking audio masih dalam tahap penyempurnaan. OpenAI mengatakan mereka perlu mendapatkan umpan balik dari pengguna untuk menguji keefektifannya. Peneliti dan kelompok jurnalisme nirlaba dapat menguji klasifikasi deteksi gambar dengan menerapkannya ke platform akses riset OpenAI. OpenAI telah bekerja untuk mendeteksi konten yang dihasilkan AI selama bertahun-tahun. Namun, pada tahun 2023, mereka harus mengakhiri program yang mencoba mengidentifikasi teks yang ditulis AI karena klasifikasi teks AI secara konsisten memiliki akurasi rendah.