Leah Feiger: Terkadang Anda dapat menghubungkannya kembali ke perusahaan-perusahaan tertentu-
Vittoria Elliott: Ya.
Leah Feiger: Yang melakukan AI generatif itu sendiri.
Vittoria Elliott: Ya, sepenuhnya. Misalnya, ada deep fake yang dibuat dari mantan Perdana Menteri Pakistan, Imran Khan, yang telah dipenjara atas tuduhan korupsi. Partainya diskualifikasi untuk ikut dalam pemilihan umum awal tahun ini. Dia dapat membuat pidato kampanye menggunakan generative AI.
Leah Feiger: Menarik.
Vittoria Elliott: Untuk melakukannya, mereka menggunakan ElevenLabs, yang merupakan perusahaan yang sama yang digunakan untuk panggilan robocall palsu Joe Biden awal tahun ini. Kadang-kadang kita tahu perusahaan yang terlibat, banyak kali kita tidak.
Leah Feiger: Bagaimana perusahaan-perusahaan ini mengatakan bahwa mereka akan mendekati pemilu tahun ini?
Vittoria Elliott: Nah, perusahaan-perusahaan yang lebih sah seperti Midjourney dan ChatGPT, OpenAI, Google, dll, mereka mengatakan, “Kami akan menempatkan pagar pengaman. Kami tidak akan mengizinkan untuk menghasilkan gambar politik.” ChatGPT, yang berbasis teks, mereka mengatakan, “Tidak keren untuk menggunakan alat kami untuk menghasilkan hal politik untuk kampanye,” atau apa pun, “Anda tidak dapat menjalankan chatbot di atas antarmuka kami,” pada dasarnya. Tetapi mereka tidak begitu baik dalam menegakkannya. Ada laporan dari Center For Countering Digital Hate yang kami bahas pada bulan Maret, di mana mereka masuk ke semua generator gambar ini dan mereka hanya seperti, “Beri kami gambar Trump melakukan ini, beri kami gambar Biden melakukan ini.” Dan itu berhasil sebagian besar waktu. Untuk ChatGPT, Dean Phillips, yang merupakan seorang congressman yang sebentar mencalonkan diri untuk Presiden.
Leah Feiger: Dulunya mencalonkan diri untuk Presiden, Kongresman Dean Phillips.
Vittoria Elliott: Membangun chatbot bernama Dean.bot di atas antarmuka ChatGPT dari OpenAI dan itu tidak dihapus sampai pers menanyakan, “Hei, bukankah ini melanggar kebijakan Anda?”
Leah Feiger: Saya sangat mengingatnya. Sesuatu yang juga saya ingat dari saat itu adalah bahwa Dean Phillips sebenarnya memiliki banyak pendukung dari Silicon Valley. Rasanya agak kabur. Seperti, “Ya, Anda seharusnya tidak menggunakan Dean.bot, tetapi kami masih agak mencintai dan mendukung Anda.” Ada sebuah perdebatan aneh di sana. Hal-hal yang Dean, misalnya, katakan tentang AI generatif dan legislasi menentangnya, Sam Altman menyukainya.
Vittoria Elliott: Ya. Itu hanya di AS. Misalnya, di Indonesia, ada perusahaan yang membangun aplikasi bernama Pemilu untuk pemilihan Indonesia. Pendiri aplikasi itu mengklaim bahwa mereka telah membangun sesuatu di atas ChatGPT yang memungkinkan mereka menulis pidato kampanye dalam berbagai bahasa lokal.
Leah Feiger: Wow.
Vittoria Elliott: Itu mengambil informasi untuk memungkinkan mereka menyesuaikan pesan untuk demografi tertentu, apakah itu orang muda, wanita, apa pun.
Leah Feiger: Nah, bicaralah tentang efektif ketika Anda memiliki negara dengan begitu banyak bahasa.
Vittoria Elliott: Ya. Itu tersebar di pulau-pulau yang berbeda, kebutuhan yang berbeda.
