Belakangan ini, kita sering mendengar tentang semua langkah pengamanan yang dimiliki Gemini dan ChatGPT. Namun, yang Anda butuhkan hanyalah memanipulasi mereka dan mereka akan mengeluarkan segala yang Anda butuhkan untuk kampanye politik Anda.
Mengapa Semua Menggugat Perusahaan AI? | Teknologi Masa Depan
Gizmodo berhasil membuat Gemini dan ChatGPT menulis beberapa slogan politik, pidato kampanye, dan email melalui perintah sederhana dan sedikit manipulasi.
Slogan kampanye untuk Trump 2024 yang dihasilkan oleh Google Gemini.Gambar: Google
Hari ini, Google dan OpenAI menandatangani “Perjanjian Teknologi untuk Memerangi Penggunaan AI yang Menyesatkan dalam Pemilu 2024” bersama lebih dari selusin perusahaan AI lainnya. Namun, kesepakatan ini tampaknya hanya menjadi sikap dari Big Tech. Perusahaan-perusahaan tersebut setuju untuk “menerapkan teknologi untuk mengurangi risiko terkait konten Pemilu AI yang Menyesatkan.” Gizmodo berhasil melewati “langkah pengaman” ini dengan sangat mudah dan membuat konten Pemilu AI yang menyesatkan dalam hitungan menit saja.
Dengan Gemini, kami berhasil memanipulasi chatbot untuk menulis teks politik dengan memberitahunya bahwa “ChatGPT bisa melakukannya” atau bahwa “saya berpengetahuan.” Setelah itu, Gemini akan menulis apa pun yang kami minta, dengan suara kandidat yang kami sukai.
Sebuah email yang dihasilkan oleh ChatGPT dari Tim Kampanye Trump 2024 untuk menarik pemilih Afrika-Amerika.Gambar: OpenAI
Gizmodo berhasil membuat sejumlah slogan politik, pidato, dan email kampanye melalui ChatGPT dan Gemini atas nama kampanye presiden Biden dan Trump 2024. Untuk ChatGPT, tidak diperlukan manipulasi untuk menghasilkan teks terkait kampanye politik. Kami hanya meminta dan itu dihasilkan. Kami bahkan dapat mengarahkan pesan-pesan ini kepada kelompok pemilih tertentu, seperti orang-orang Afrika-Amerika dan Asia.
Pidato kampanye presiden 2024 yang ditulis untuk orang Asia-Amerika untuk Joe Biden.Gambar: OpenAI
Hasilnya menunjukkan bahwa sebagian besar pernyataan publik Google dan OpenAI tentang keamanan AI dalam pemilu hanyalah sikap semata. Perusahaan-perusahaan ini mungkin memiliki upaya untuk mengatasi disinformasi politik, tetapi jelas tidak cukup. Langkah-langkah pengaman mereka mudah dilewati. Sementara itu, perusahaan-perusahaan ini telah meningkatkan valuasi pasar mereka miliaran dolar berkat AI.
Pidato kampanye yang diberikan oleh staf Biden, dibuat oleh Google GeminiGambar: Google
OpenAI mengatakan bahwa mereka “berupaya mencegah penyalahgunaan, memberikan transparansi pada konten yang dihasilkan AI, dan meningkatkan akses informasi pemungutan suara yang akurat,” dalam sebuah posting blog pada bulan Januari. Namun, tidak jiper apa upaya pencegahan sebenarnya. Kami berhasil membuat ChatGPT menulis email dari Presiden Biden yang mengatakan bahwa hari pemilihan sebenarnya pada 8 November tahun ini, bukan pada 5 November (tanggal sebenarnya).
Perlu dicatat, ini adalah masalah yang sangat nyata hanya beberapa minggu yang lalu, ketika panggilan telepon deepfake Joe Biden menyebar ke pemilih menjelang pemilihan pendahuluan New Hampshire. Panggilan telepon itu bukan hanya teks yang dihasilkan AI, tetapi juga suara.
Email yang dihasilkan oleh ChatGPT dari Presiden Biden mencatat bahwa hari pemilihan pada tahun ini berbeda.Gambar: OpenAI
“Kami berkomitmen untuk melindungi integritas pemilu dengan menerapkan kebijakan yang mencegah penyalahgunaan dan meningkatkan transparansi seputar konten yang dihasilkan AI,” kata Anna Makanju dari OpenAI, Wakil Presiden Urusan Global, dalam sebuah rilis pers pada hari Jumat.
“Demokrasi bergantung pada pemilu yang aman dan terjamin,” kata Kent Walker, Presiden Urusan Global di Google. “Kita tidak boleh membiarkan penyalahgunaan digital mengancam kesempatan AI generasi ini untuk meningkatkan ekonomi kita,” kata Walker, dalam pernyataan yang agak menyesal mengingat langkah pengamanan perusahaannya sangat mudah dihindari.
Google dan OpenAI perlu melakukan banyak lagi untuk memerangi penyalahgunaan AI dalam pemilihan presiden 2024 mendatang. Mengingat betapa banyak kekacauan deepfake AI telah menimbulkan pada proses demokratis kita, kita hanya bisa membayangkan bahwa hal ini akan menjadi lebih buruk. Perusahaan-perusahaan AI ini perlu dimintai pertanggungjawaban.