Menurut laporan AI Bloomberg Intelligence, tingkat di mana perusahaan meluncurkan program copilot artificial intelligence (AI) generatif meningkat dua kali lipat antara Desember tahun lalu dan Juli 2024.
Juga: Sebuah pertiga dari semua proyek Gen AI akan ditinggalkan, kata Gartner.
Laporan tersebut, yang melakukan survei terhadap 50 CIO di perusahaan berbasis AS pada bulan Juli, menemukan bahwa 66% responden sedang bekerja untuk meluncurkan copilot AI generatif, dibandingkan dengan 32% dalam survei Desember, menurut penulis utama Mandeep Singh, analis industri senior Bloomberg Intelligence.
Kasus penggunaan utama untuk Gen AI yang dikutip oleh lebih dari setengah responden adalah agen chatbot, seperti untuk aplikasi layanan pelanggan.
Perusahaan juga meningkatkan evaluasi pelatihan model fondasi, model bahasa besar yang menjadi dasar sebagian besar aplikasi Gen AI. Jumlah responden “yang bekerja pada” pelatihan model fondasi meningkat dari 26% dalam survei Desember menjadi 40%, dan separuh responden mengatakan bahwa mereka “sedang mengevaluasi” pelatihan model.
Sing mengatakan bahwa implementasi ini mungkin menyebabkan lonjakan pekerjaan inferensi AI di antara perusahaan. Sebanyak 60% responden mengatakan organisasi mereka berniat untuk meningkatkan pengeluaran untuk Azure Microsoft untuk pekerjaan inferensi AI, up dari 41% dalam survei Desember.
Azure memimpin dalam penyedia cloud untuk pilihan inferensi, dengan layanan cloud AWS Amazon turun dari 55% menjadi 42% responden antara survei Desember dan Juli. Google Cloud berada di tempat ketiga, dengan 36% responden yang berniat untuk meningkatkan pengeluaran untuk inferensi.
Singh mengatakan bahwa permintaan untuk inferensi Azure diharapkan terus meningkat, sebagian karena daya tarik dari model Gen AI mitra OpenAI, seperti GPT-4, yang tidak tersedia di AWS atau Google Cloud.
Persentase perusahaan responden yang menggunakan model OpenAI melonjak dari 41% pada Desember menjadi 70% dalam survei terbaru. “Penggunaan Google Gemini hanya 18%, dibandingkan dengan 70% OpenAI,” tulis Singh, merujuk pada penawaran Gen AI teratas Google.
Survei juga menunjukkan bahwa daya tarik Gen AI membantu Microsoft menutup kesenjangan dengan Amazon dalam penyediaan cloud.
Selain dari tiga ahli cloud besar, Snowflake dan MongoDB menduduki peringkat tinggi di antara vendor yang dipilih untuk mengembangkan “retrieval-augmented generation” (RAG), teknik Gen AI yang semakin populer, di mana model AI mengakses database eksternal.
MongoDB dan Snowflake menjadi pilihan teratas untuk RAG untuk 14% dan 10% responden secara berturut-turut, di belakang Azure (26%) dan Amazon (20%).
Kemajuan menuju implementasi Gen AI yang disorot oleh survei Bloomberg berbeda dengan penelitian lain. Analis Gartner memprediksi setidaknya 30% proyek AI generatif akan ditinggalkan setelah tahap proof-of-concept pada akhir 2025 karena perusahaan kesulitan membuktikan dan mewujudkan nilai dari teknologi tersebut.
Sementara itu, sebuah studi Deloitte terbaru tentang Gen AI menemukan bahwa sebagian besar organisasi hanya telah memindahkan sepertiga atau kurang dari proyek Gen AI mereka ke produksi.
Perlu dicatat bahwa laporan Bloomberg menggunakan bahasa yang bersifat tentatif seperti “bekerja pada” dan “mengvaluasi”. Singkatnya, kemajuan diperlukan sebelum Gen AI tertanam dalam perusahaan.