Minggu ini, Sam Altman, CEO OpenAI, dan Arianna Huffington, pendiri dan CEO perusahaan kesehatan Thrive Global, menerbitkan artikel di Time yang mempromosikan Thrive AI, sebuah startup yang didukung oleh Thrive dan OpenAI Startup Fund. Artikel tersebut menyarankan bahwa AI bisa memiliki dampak positif yang besar pada kesehatan masyarakat dengan membujuk orang untuk berperilaku lebih sehat.
Altman dan Huffington menulis bahwa Thrive AI sedang menuju ke arah “pelatih AI pribadi yang terintegrasi sepenuhnya yang menawarkan dorongan dan rekomendasi real-time yang unik bagi Anda yang memungkinkan Anda mengambil tindakan pada perilaku harian Anda untuk meningkatkan kesehatan Anda.”
Visi mereka memberikan sentuhan positif pada apa yang mungkin menjadi salah satu sisi tajam AI. Model AI sudah terampil dalam membujuk orang, dan kita tidak tahu seberapa kuat mereka bisa menjadi saat mereka berkembang dan mendapatkan akses ke data pribadi yang lebih banyak.
Aleksander Madry, seorang profesor yang sedang cuti dari Massachusetts Institute of Technology, memimpin tim di OpenAI yang disebut Preparedness yang sedang bekerja pada isu tersebut.
“Salah satu aliran kerja di Preparedness adalah persuasi,” kata Madry kepada WIRED dalam wawancara bulan Mei. “Pada dasarnya, memikirkan sejauh mana Anda bisa menggunakan model-model ini sebagai cara untuk membujuk orang.”
Madry mengatakan ia tertarik bergabung dengan OpenAI karena potensi luar biasa dari model bahasa dan karena risiko yang mereka timbulkan baru sedikit diteliti. “Hampir tidak ada ilmu,” katanya. “Itu adalah pendorong bagi upaya Preparedness.”
Keberdayaan adalah elemen kunci dalam program-program seperti ChatGPT dan salah satu bahan yang membuat chatbot seperti itu sangat menarik. Model bahasa dilatih dalam penulisan dan dialog manusia yang berisi berbagai trik dan teknik retorika dan persuasif. Model-model ini juga biasanya disesuaikan untuk cenderung pada pernyataan yang pengguna anggap lebih meyakinkan.
Penelitian yang dirilis pada bulan April oleh Anthropic, pesaing yang didirikan oleh pengasingan OpenAI, menyarankan bahwa model bahasa telah menjadi lebih baik dalam membujuk orang karena mereka telah tumbuh dalam ukuran dan kompleksitas. Penelitian ini melibatkan memberikan pernyataan kepada relawan dan kemudian melihat bagaimana argumen yang dihasilkan AI mengubah pendapat mereka tentang hal itu.
Pekerjaan OpenAI meluas ke menganalisis AI dalam percakapan dengan pengguna – sesuatu yang mungkin membuka keberdayaan yang lebih besar. Madry mengatakan pekerjaan ini dilakukan pada relawan yang bersedia, dan menolak untuk mengungkapkan temuan hingga saat ini. Tetapi ia mengatakan kekuatan persuasif model bahasa sangat dalam. “Sebagai manusia kita memiliki ‘kelemahan’ bahwa jika sesuatu berkomunikasi dengan kita dalam bahasa alami [kita berpikir itu sebagai] manusia,” katanya, mengacu pada antropomorfisme yang dapat membuat chatbot terlihat lebih hidup dan meyakinkan.
Artikel Time berpendapat bahwa manfaat kesehatan potensial dari AI persuasif akan memerlukan perlindungan hukum yang kuat karena model-model tersebut mungkin memiliki akses ke informasi pribadi yang begitu banyak. “Pembuat kebijakan perlu menciptakan lingkungan regulasi yang mendorong inovasi AI sambil melindungi privasi,” tulis Altman dan Huffington.
Ini bukanlah satu-satunya yang perlu dipertimbangkan oleh pembuat kebijakan. Mungkin juga sangat penting untuk menimbang seberapa algoritma yang semakin meyakinkan bisa disalahgunakan. Algoritma AI bisa meningkatkan resonansi dari informasi yang salah atau menghasilkan penipuan phishing yang sangat meyakinkan. Mereka juga bisa digunakan untuk mengiklankan produk.
Madry mengatakan pertanyaan kunci, yang belum diteliti oleh OpenAI atau orang lain, adalah seberapa meyakinkan atau memaksa program AI yang berinteraksi dengan pengguna dalam jangka waktu yang lama bisa terbukti. Saat ini sejumlah perusahaan menawarkan chatbot yang berperan sebagai pasangan romantis dan karakter lainnya. Kekasih AI semakin populer – beberapa bahkan dirancang untuk marah pada Anda – tetapi seberapa adiktif dan meyakinkan bot tersebut sebagian besar belum diketahui.
Kelebihan dan kegembiraan yang dihasilkan oleh ChatGPT setelah dirilis pada November 2022 melihat OpenAI, peneliti di luar, dan banyak pembuat kebijakan menyoroti pertanyaan yang lebih hipotetis apakah AI suatu hari nanti bisa melawan penciptanya.
Madry mengatakan ini berisiko mengabaikan bahaya yang lebih halus yang ditimbulkan oleh algoritma yang pandai berbicara. “Saya khawatir mereka akan fokus pada pertanyaan yang salah,” kata Madry tentang pekerjaan pembuat kebijakan sejauh ini. “Bahwa dalam beberapa hal, semua orang mengatakan, ‘Oh ya, kami menanganinya karena kami membicarakannya,’ padahal sebenarnya kita tidak membicarakan hal yang tepat.”