Apple baru saja mulai menggulirkan serangkaian fitur AI yang sangat diantisipasi untuk perangkatnya, dan kita sudah melihat masalah besar. Sebagai contoh, BBC telah mengeluh kepada Apple setelah rangkuman notifikasi yang didukung AI menulis ulang judul BBC untuk mengatakan bahwa pembunuh CEO UHC Luigi Mangione telah menembak dirinya sendiri. Mangione tidak menembak dirinya sendiri dan tetap berada di tahanan polisi.
Kecerdasan Apple mencakup fitur di iOS yang mencoba mengurangi kelelahan pengguna dengan mengelompokkan dan merangkum notifikasi yang masuk dari aplikasi individu. Misalnya, jika seorang pengguna menerima beberapa pesan teks dari satu orang, daripada menampilkan semuanya dalam daftar panjang, iOS sekarang akan mencoba merangkum pemberitahuan dorongan ke dalam satu pemberitahuan ringkas. Ternyata—dan ini seharusnya tidak mengherankan siapa pun yang akrab dengan AI generatif—\”kecerdasan\” dalam Apple Intelligence menyebabkan fakta bahwa ringkasan terkadang tidak beruntung atau salah. Ringkasan notifikasi pertama kali diperkenalkan ke iOS dalam versi 18.1 yang dirilis kembali pada bulan Oktober; minggu ini, Apple menambahkan integrasi asli dengan ChatGPT di Siri.
Notifikasi dari aplikasi BBC yang mencakup ringkasan yang salah. Dalam sebuah artikel, BBC membagikan tangkapan layar notifikasi yang merangkum tiga berita berbeda yang telah dikirim sebagai pemberitahuan dorongan. Pemberitahuan tersebut berbunyi: \”Luigi Mangione menembak dirinya sendiri; Ibu Suriah berharap Assad membayar harga; Polisi Korea Selatan merazia kantor Yoon Suk Yeol.\” Ringkasan lainnya benar, kata BBC. BBC telah mengeluh kepada Apple tentang situasi ini, yang memalukan bagi perusahaan teknologi tetapi juga berisiko merusak reputasi media berita jika pembaca percaya bahwa mereka mengirimkan informasi yang salah. Mereka tidak memiliki kontrol atas bagaimana iOS memutuskan untuk merangkum pemberitahuan dorongan mereka.
\”Berita BBC adalah media berita yang paling dipercaya di dunia,\” kata juru bicara BBC untuk cerita ini. \”Penting bagi kami bahwa audiens kami dapat mempercayai setiap informasi atau jurnalisme yang diterbitkan atas nama kami dan itu termasuk notifikasi.\” Apple menolak untuk menanggapi pertanyaan BBC tentang kesalahan tersebut. Kecerdasan Buatan memiliki banyak potensi di banyak bidang, tetapi model bahasa mungkin adalah salah satu implementasi terburuk. Tetapi ada banyak harapan perusahaan bahwa teknologi tersebut akan menjadi cukup baik sehingga perusahaan dapat mengandalkannya untuk penggunaan seperti obrolan dukungan pelanggan atau pencarian melalui koleksi data internal yang besar. Tetapi itu belum ada—bahkan, perusahaan yang menggunakan AI telah mengatakan bahwa mereka masih harus melakukan banyak pengeditan dari hasil yang dihasilkannya. Rasanya agak tidak biasa bagi Apple untuk mendalam mengintegrasikan teknologi yang tidak dapat diandalkan dan tidak dapat diprediksi seperti itu ke dalam produk-produknya. Apple tidak memiliki kontrol atas keluaran ChatGPT—pencipta chatbot tersebut OpenAI hampir tidak bisa mengontrol model bahasa, dan perilaku mereka terus-menerus dioptimalkan. Ringkasan dari notifikasi pendek seharusnya menjadi hal yang paling mudah bagi AI untuk dilakukan dengan baik, dan Apple bahkan tidak berhasil dalam hal itu.
Paling tidak, beberapa fitur Apple Intelligence menunjukkan bagaimana AI bisa memiliki penggunaan praktis. Pengeditan foto yang lebih baik dan mode fokus yang memahami notifikasi mana yang harus dikirim adalah bagus. Tetapi untuk perusahaan yang terkait dengan pengalaman yang halus, ringkasan notifikasi yang salah dan ChatGPT yang halusinasi bisa membuat iOS terasa kurang halus. Rasanya seperti mereka terburu-buru di kereta hype untuk meningkatkan penjualan iPhone baru—iPhone 15 Pro atau yang lebih baru diperlukan untuk menggunakan fitur-fitur tersebut.