Kekhawatiran tersebut menjadi salah satu alasan OpenAI mengumumkan pada bulan Januari bahwa perusahaan akan melarang orang menggunakan teknologinya untuk menciptakan chatbot yang meniru kandidat politik atau memberikan informasi palsu terkait pemungutan suara. Perusahaan juga mengatakan bahwa mereka tidak akan memperbolehkan orang membangun aplikasi untuk kampanye politik atau kegiatan lobi.
Meskipun halaman chatbot Kennedy tidak mengungkapkan model yang mendasarinya, kode sumber situs tersebut menghubungkan bot tersebut ke LiveChatAI, sebuah perusahaan yang mempromosikan kemampuannya untuk menyediakan chatbot dukungan pelanggan yang didukung oleh GPT-4 dan GPT-3.5 kepada bisnis. Situs web LiveChatAI menggambarkan bot mereka sebagai “memanfaatkan kemampuan ChatGPT.”
Ketika ditanya model bahasa besar apa yang digunakan oleh bot kampanye Kennedy, salah satu pendiri LiveChatAI, Emre Elbeyoglu, mengatakan dalam pernyataan tertulis via email pada hari Kamis bahwa platform tersebut “memanfaatkan berbagai teknologi seperti Llama dan Mistral” selain GPT-3.5 dan GPT-4. “Kami tidak dapat mengonfirmasi atau membantah spesifik penggunaan klien mana pun karena komitmen kerahasiaan klien kami,” kata Elbeyoglu.
Jurubicara OpenAI, Niko Felix, memberi tahu WIRED pada hari Kamis bahwa perusahaan tidak “mendapatkan indikasi” bahwa chatbot kampanye Kennedy secara langsung menggunakan layanan mereka, namun menyarankan bahwa LiveChatAI mungkin menggunakan salah satu model mereka melalui layanan Microsoft. Sejak tahun 2019, Microsoft dilaporkan telah menginvestasikan lebih dari $13 miliar ke OpenAI. Model ChatGPT dari OpenAI telah diintegrasikan ke dalam mesin pencari Bing milik Microsoft dan Copilot Office 365 perusahaan tersebut.
Pada hari Jumat, jurubicara Microsoft mengonfirmasi bahwa chatbot Kennedy “memanfaatkan kemampuan dari Layanan Azure OpenAI Microsoft.” Microsoft mengatakan bahwa pelanggannya tidak terikat oleh syarat penggunaan OpenAI, dan chatbot Kennedy tidak melanggar kebijakan Microsoft.
“Pengujian terbatas dari chatbot ini menunjukkan kemampuannya untuk menghasilkan jawaban yang mencerminkan konteks yang dimaksud, dengan catatan yang sesuai untuk mencegah penyebaran informasi yang salah,” kata jurubicara tersebut. “Ketika kami menemukan masalah, kami berinteraksi dengan pelanggan untuk memahami dan membimbing mereka menuju penggunaan yang konsisten dengan prinsip-prinsip tersebut, dan dalam beberapa skenario, ini dapat menyebabkan kami menghentikan akses pelanggan ke teknologi kami.”
OpenAI tidak langsung merespons permintaan komentar dari WIRED mengenai apakah bot tersebut melanggar aturan mereka. Earlier this year, the company blocked the developer of Dean.bot, a chatbot built on OpenAI’s models that mimicked Democratic presidential candidate Dean Phillips and delivered answers to voter questions.
Pada sore hari Minggu, layanan chatbot tidak lagi tersedia. Meskipun halaman tetap dapat diakses di situs kampanye Kennedy, jendela chatbot tersemat sekarang menampilkan ikon tanda seru merah, dan hanya menampilkan tulisan “Chatbot not found.” WIRED mencoba menghubungi Microsoft, OpenAI, LiveChatAI, dan kampanye Kennedy untuk mendapatkan komentar mengenai penghapusan chatbot tersebut, namun tidak menerima respon segera.
Mengingat kecenderungan chatbot untuk berhalusinasi dan berhenti tiba-tiba, penggunaannya dalam konteks politik telah menuai kontroversi. Saat ini, OpenAI adalah satu-satunya model bahasa besar yang secara eksplisit melarang penggunaannya dalam kampanye; Meta, Microsoft, Google, dan Mistral memiliki syarat penggunaan, namun tidak secara langsung mengatasi politik. Dan mengingat bahwa sebuah kampanye dapat mengakses GPT-3.5 dan GPT-4 melalui pihak ketiga tanpa konsekuensi, hampir tidak ada batasan sama sekali.
“OpenAI bisa mengatakan bahwa mereka tidak memperbolehkan penggunaan alat mereka dalam pemilihan atau kampanye politik di satu sisi,” kata Woolley. “Tetapi di sisi lain, mereka juga membuat alat-alat ini cukup mudah diakses. Mengingat sifat tersebar dari teknologi ini, seseorang harus bertanya-tanya bagaimana OpenAI benar-benar akan menegakkan kebijakannya sendiri.”