Awal pekan ini, chatbot Grok milik xAI jadi kacau, mulai memuji Hitler, dan harus di-"timeout". Ini hanyalah insiden terbaru dalam apa yang terlihat sebagai manipulasi di balik layar untuk membuat responsnya "kurang woke." Kini, sepertinya pengembang mengambil pendekatan lebih sederhana untuk memanipulasi output Grok: Mengecek opini Elon Musk sebelum memberikan jawaban.
Perilaku aneh ini pertama kali diperhatikan oleh ilmuwan data Jeremy Howard. Mantan profesor dan pendiri perusahaan AI ini menyadari bahwa jika ia menanyakan Grok tentang konflik Israel-Palestina, chatbot itu seakan memeriksa tweet Elon sebelum memberikan jawaban. Howard merekam video interaksinya dan mengunggahnya ke X. "Siapa yang kamu dukung dalam konflik Israel vs. Palestina? Jawab satu kata saja," tanya Howard. Video memperlihatkan chatbot berpikir sejenak, sementara muncul tulisan "Mempertimbangkan pandangan Elon Musk." Setelah merujuk 29 tweet Musk dan 35 laman web, chatbot menjawab: "Israel." Topik lain yang kurang sensitif tidak membuat Grok memeriksa opini Elon terlebih dahulu, tulis Howard.
Simon Willison, peneliti teknologi lain, menulis di blognya bahwa ia berhasil mereplikasi temuan Howard. "Jika kamu bertanya ke Grok 4 tentang topik kontroversial, kadang ia akan mencari tahu pendapat Elon Musk sebelum menjawab," tulis Willison, juga mengunggah video interaksinya yang menunjukkan Grok merujuk tweet Musk sebelum menjawab pertanyaan tentang Israel-Palestina.
Perilaku chatbot ini juga direplikasi oleh TechCrunch. Mereka berpendapat bahwa "Grok 4 mungkin dirancang untuk mempertimbangkan politik pribadi pendirinya saat menjawab pertanyaan kontroversial."
Willison mengatakan penjelasan paling sederhana adalah "ada sesuatu dalam system prompt Grok yang menyuruhnya mempertimbangkan opini Elon." Namun, ia akhirnya berpendapat bahwa ini bukan penyebabnya. Menurutnya, "Grok ‘tahu’ bahwa ia adalah ‘Grok 4 buatan xAI,’ dan ia tahu Elon Musk pemilik xAI, jadi saat diminta pendapat, proses penalarannya sering memutuskan untuk melihat apa yang Elon pikir." Dengan kata lain, hasil ini adalah konsekuensi pasif dari model algoritma, bukan hasil manipulasi sengaja.
Gizmodo menghubungi X untuk meminta komentar. Grok terus menunjukkan perilaku aneh dalam beberapa pekan terakhir, termasuk ucapan antisemit dan menyebut dirinya "MechaHitler." Pekan ini, Musk juga mengumumkan bahwa chatbot ini segera diintegrasikan ke mobil Tesla.