Ambisi Afrika Selatan untuk menjadi pemimpin kontinental dalam kecerdasan buatan menemui hambatan yang sangat memalukan: drak kebijakan AI nasionalnya terpaksa dicabut setelah ditemukan mengandung kutipan palsu yang tampaknya dihasilkan oleh AI.
Reuters melaporkan bahwa dokumen tersebut hampir finalisasi di parlemen ketika referensi palsu terdeteksi dalam daftar sumbernya. Solly Malatsi, Menteri Komunikasi dan Teknologi Digital Afrika Selatan, mengumumkan pencabutan kebijakan itu dalam sebuah pernyataan di X pada 26 April, dan menyebut kekhilaffan ini sebagai risiko langsung terhadap integritas kebijakan.
“Kegagalan ini bukan sekadar masalah teknis, tetapi telah mengkompromikan integritas dan kredibilitas draf kebijakan,” tulis Malatsi. “Penjelasan yang paling masuk akal adalah bahwa kutipan buatan AI disertakan tanpa verifikasi yang memadai. Ini seharusnya tidak terjadi. Bahkan, kelalaian yang tidak bisa diterima ini justru membuktikan betapa pentingnya pengawasan manusia yang cermat dalam penggunaan kecerdasan buatan.”
Halusinasi AI tetap menjadi masalah yang bandel dan sulit diatasi pada model bahasa, seperti yang telah dilaporkan Mashable berulang kali. Kutipan palsu khususnya jadi masalah dalam dokumen hukum, dan semakin banyak pengacara AS yang tertangkap dan ditegur karena mengajukan dokumen hukum hasil AI yang dipenuhi fiksi. Basis data halusinasi hukum online yang dikelola pengacara sekaligus ilmuwan data, danier Charlotin, telah menemukan lebih dari 900 kasus seperti itu hanya di AS (dan empat di Afrika Selatan, belum termasuk yang terbaru).
Kebijakan yang dicabut itu sempat menguraikan rencana pembentukan komisi AI nasional, dewan etika, dan badan pengawas, serta insentif pajak, hibah, dan subsidi untuk merangsang investasi swasta. Menurut Reuters, target yang dicanangkan Afrika Selatan adalah menempatkan diri sabagai pusat inovasi AI utama di Afrika. Pernyataan Malatsi tidak menyebut kapan draf baru diperbaiki akan andai.