Dalam waktu luangnya, Tony Eastin suka mencoba peruntungan di pasar saham. Suatu hari tahun lalu, dia mencari di Google perusahaan farmasi yang tampaknya menjanjikan sebagai investasi. Salah satu hasil pencarian pertama yang ditampilkan oleh Google di tab berita adalah dari Clayton County Register, sebuah surat kabar di timur laut Iowa. Dia mengklik, dan membaca. Ceritanya kacau dan tidak berisi informasi yang berguna—demikian juga dengan pos-pos tema keuangan lainnya yang memenuhi situs tersebut, yang sama sekali tidak ada hubungannya dengan timur laut Iowa. “Saya tahu segera ada sesuatu yang tidak beres,” katanya. Ada banyak sampah di internet, tetapi ini terasa aneh bagi Eastin: Mengapa surat kabar kecil di Midwest menghasilkan blog yang buruk tentang investasi ritel?
Eastin sudah siap untuk menemukan misteri online yang tak terbantahkan. Setelah bertahun-tahun di Angkatan Udara Amerika Serikat bekerja pada kampanye perang psikologis, dia bergabung dengan Meta di mana dia menyelidiki hal-hal buruk mulai dari penyalahgunaan anak hingga operasi pengaruh politik. Sekarang dia sedang mencari pekerjaan baru, dan menyambut misi baru. Jadi Eastin menghubungi Sandeep Abraham, seorang teman dan mantan kolega Meta yang sebelumnya bekerja di intelijen Angkatan Darat dan NSA, dan menyarankan mereka untuk mulai menggali.
Apa yang ditemukan oleh pasangan ini memberikan gambaran tentang bagaimana AI generatif memungkinkan model bisnis online baru yang menipu. Jaringan situs web penuh dengan clickbait yang dihasilkan oleh AI sedang dibangun dengan memanfaatkan reputasi media dan merek yang sudah mapan. Situs-situs ini berkembang dengan membingungkan dan menyesatkan audiens dan pengiklan sama, “domain squatting” pada URL yang dulunya milik organisasi yang lebih terkemuka. Situs kotor yang dirujuk Eastin tidak lagi dimiliki oleh surat kabar yang namanya masih diperdagangkan dengan nama tersebut.
Meskipun Eastin dan Abraham menduga bahwa jaringan situs lama Register sekarang menjadi bagian dari diciptakan dengan tujuan penghasilan uang yang jelas, mereka khawatir bahwa pelaku yang lebih jahat bisa menggunakan taktik yang sama untuk menyebarkan informasi salah dan propaganda ke hasil pencarian. “Ini sangat mengancam,” kata Abraham. “Kami ingin menyalakan alarm.” Untuk itu, pasangan ini telah merilis laporan tentang temuan mereka dan berencana untuk merilis lebih banyak saat mereka lebih mendalami dunia clickbait AI, berharap upaya mereka di waktu luang dapat membantu meningkatkan kesadaran tentang masalah ini dari publik atau pembuat kebijakan.
Berita Palsu
Clayton County Register didirikan pada tahun 1926 dan meliput kota kecil Ekader, Iowa, dan wilayah Clayton County yang berbatasan dengan Sungai Mississippi di sudut timur laut negara bagian. “Ini adalah surat kabar yang populer,” kata mantan coeditor Bryce Durbin, yang menggambarkan dirinya “jijik” dengan apa yang sekarang dipublikasikan di alamat web mantan surat kabar tersebut, claytoncountyregister.com. (Clayton County Register sebenarnya bergabung pada tahun 2020 dengan The North Iowa Times untuk menjadi Times-Register yang menerbitkan di situs web yang berbeda. Tidak jelas bagaimana surat kabar kehilangan kendali atas domain webnya; Times-Register tidak mengembalikan permintaan komentar.)
Seperti yang ditemukan Eastin saat mencoba meneliti saham farmasi, situs tersebut masih membranding dirinya sebagai Clayton County Register tetapi tidak lagi menawarkan berita lokal dan malah menjadi pabrik konten berita keuangan. Situs ini menerbitkan artikel yang tampaknya dihasilkan oleh AI tentang harga saham perusahaan utilitas publik dan startup Web3, diilustrasikan dengan gambar yang juga tampaknya dihasilkan oleh AI.
“Tidak hanya artikel yang kami tinjau dihasilkan oleh AI, tetapi gambar yang disertakan dalam setiap artikel semuanya dibuat menggunakan model difusi,” kata Ben Colman, CEO startup deteksi deepfake Reality Defender, yang melakukan analisis atas beberapa artikel atas permintaan WIRED. Selain konfirmasi tersebut, Abraham dan Eastin memperhatikan bahwa beberapa artikel termasuk teks yang mengakui asal buatan mereka. “Penting untuk dicatat bahwa informasi ini dihasilkan secara otomatis oleh Automated Insights,” beberapa artikel menyatakan, menyinggung perusahaan yang menawarkan teknologi generasi bahasa.