4045/Getty Images
Model bahasa besar seperti ChatGPT’s GPT-4o tampaknya memiliki semua informasi di alam semesta yang diketahui, atau setidaknya apa yang para insinyur bisa pindai dari internet.
Tetapi bagaimana jika Anda ingin menggunakan model bahasa besar (LLM) dengan informasi properti dari data perusahaan Anda sendiri, atau informasi khusus yang tidak tersedia secara publik di internet, atau melatih LLM untuk memiliki pengetahuan khusus?
Apakah Anda membangun LLM dari awal? Apakah Anda menggunakan model kecil, open-source, self-hosted yang hanya berisi informasi Anda?
Juga: Beberapa perusahaan AI yang rahasia bisa menghancurkan masyarakat bebas, peringatkan para peneliti
Ternyata, Anda dapat memulai dengan LLM seperti GPT-4o, dan kemudian membangun di atasnya. Itu disebut sebagai AI kustom.
Dalam artikel ini, Eric Boyd, vice presiden korporat Microsoft untuk platform AI, berbagi dengan ZDNET tentang bagaimana Microsoft membuat AI kustom menjadi mungkin bagi pelanggan mereka, apa yang terlibat dalam model kustom, proses keseluruhan melibatkan, dan beberapa praktik terbaik.
Eric Boyd, vice presiden korporat Microsoft untuk platform AI.
Microsoft
Ayo mulai.
ZDNET: Bisakah kamu memperkenalkan dirimu dan memberikan gambaran tentang peranmu di Microsoft dan dengan platform AI-nya?
Eric Boyd: Saya memimpin tim platform AI di Microsoft. Telah menjadi beberapa tahun yang gila di ruang AI.
Saya mulai bekerja di Microsoft pada tahun 2009 di organisasi Bing, dan sungguh luar biasa melihat segalanya berkembang dari sana, karena begitu banyak inovasi AI Microsoft dimulai dengan Bing. Kami membangun infrastruktur untuk melatih model AI, untuk mengiterasi dan bereksperimen untuk melihat model AI mana yang paling baik. Dan semua infrastruktur itu berubah menjadi bagian-bagian dan komponen-komponen dari hal-hal yang sekarang kami layani melalui Azure AI Foundry.
Melalui Azure AI Foundry, kami membantu perusahaan mengakses segala hal mulai dari ribuan GPU untuk membangun dan melatih model AI mereka sendiri, hingga alat yang diperlukan untuk mengelola itu, hingga katalog model AI, besar dan kecil, terbuka dan frontier, yang kami tawarkan melalui kemitraan kami dengan OpenAI dan penyedia lainnya.
Kami juga menyediakan alat untuk membangun aplikasi di atas model AI ini, termasuk berbagai kemampuan yang dibutuhkan pelanggan kami untuk memastikan mereka dapat melakukannya dengan bertanggung jawab.
Pada akhirnya, tim saya fokus pada membangun Azure AI Foundry sehingga mencakup semua yang dibutuhkan pelanggan atau pengembang untuk membangun solusi AI mereka, dan dengan mudah beralih dari gagasan ke implementasi secara aman dan tepercaya.
AI Generatif vs. AI kustom
ZDNET: Jadi, tahun lalu kita memiliki AI generatif. Sekarang kita memiliki AI kustom. Apa itu, dan mengapa AI generatif tidak cukup?
EB: Saat perusahaan mulai menerapkan aplikasi, AI generatif dan model dasar telah membawa mereka cukup jauh. Tetapi banyak yang menemukan kasus-kasus pojok di mana model dasar tidak menjawab dengan baik.
Juga: ChatGPT terbaik: ChatGPT, Copilot, dan alternatif terkemuka lainnya
Jadi, AI kustom adalah kemampuan perusahaan untuk menggunakan data mereka sendiri untuk menyesuaikan model inti mereka untuk mendapatkan jawaban yang lebih berkualitas atas pertanyaan – dan dalam beberapa kasus mereka dapat menggunakan model yang lebih murah.
ZDNET: Apa keuntungan utama dari AI kustom dibandingkan solusi AI generatif siap pakai?
EB: Kualitas dan biaya adalah dua keuntungan utama. Dengan AI kustom, Anda dapat meningkatkan kualitas jawaban aplikasi Anda dengan menemukan di mana model dasar lemah dan kemudian menyetel respons. Menyetel respons juga memungkinkan Anda, dalam beberapa kasus, menggunakan model yang lebih murah untuk mencapai kualitas model yang lebih mahal.
ZDNET: Bisa berbagi contoh bagaimana bisnis telah berhasil menerapkan solusi AI kustom?
EB: Microsoft secara luas menerapkan teknik ini di seluruh tumpukan teknologi kami, karena kita sering bertindak sebagai “pelanggan nol” kami sendiri, yang memungkinkan kami untuk bereksperimen, belajar, dan menyempurnakan praktik terbaik yang terkini. GitHub Copilot dan Nuance DAX keduanya sangat disesuaikan dan disesuaikan dengan output pemrograman khusus dan pengetahuan perawatan kesehatan. Seiring peningkatan kualitas output, juga meningkatkan adopsi.
DAX Copilot sekarang melebihi dua juta pertemuan bulanan antara dokter dan pasien, naik 54% kuarter demi kuarter, dan digunakan oleh penyedia teratas seperti Mass General Brigham, Michigan Medicine, dan Vanderbilt University Medical Center. Dengan menyetel ulang ke data spesifik ini, solusi tersebut melakukan pekerjaan yang lebih baik dalam menghasilkan catatan medis daripada hanya merangkum percakapan dokter-pasien.
Juga: Ingin menang di era AI? Anda dapat membangunnya atau membangun bisnis Anda dengan itu
Kami berada dalam posisi unik dengan banyak aplikasi AI di seluruh rangkaian produk Microsoft, dan dalam membangun itu, kami telah belajar banyak tentang apa yang ingin dilakukan orang selanjutnya. Dengan memahami bagaimana berbagai teknik telah membantu aplikasi kami sendiri, kami memiliki visi yang kuat tentang bagaimana hal ini akan membantu aplikasi pelanggan kami.
ZDNET: Apa saran yang akan Anda berikan kepada perusahaan yang baru memulai perjalanan kustomisasi AI mereka?
EB: Saya umumnya mendorong perusahaan untuk membuktikan bahwa kasus penggunaan mereka berhasil menggunakan model dasar yang paling kuat, dan kemudian melihat langkah-langkah untuk meningkatkan kualitas atau mengurangi biaya.
Kustomisasi akan menjadi teknik untuk keduanya. Untuk ini, mereka harus telah menggunakan aplikasi mereka cukup untuk mengetahui kelemahan potensialnya, di mana model dan data tidak menjawab pertanyaan sesuai yang mereka inginkan, dan mulai mengumpulkan data tersebut dan membangun repositori untuk apa yang mereka inginkan model lakukan. Itu pada akhirnya akan menjadi data yang kami gunakan untuk menyesuaikan model.
Juga: Perusahaan otonom akan didukung oleh agen AI
Dalam era AI, data adalah pembuat perubahan karena sistem-sistem ini memerlukan data berkualitas tinggi, mudah diakses, dan aman untuk berfungsi dengan benar. Memastikan mereka memiliki data tersebut adalah bagian kunci dari menyesuaikan model. Kami bekerja untuk membantu pelanggan memodernisasi data mereka ke cloud, dan menyatukan kekayaan data mereka untuk membangun generasi berikut aplikasi pintar.
Optimalkan investasi AI Anda
ZDNET: Apa implikasi biaya dalam mengembangkan dan memelihara solusi AI kustom, dan bagaimana perusahaan dapat mengoptimalkan investasi mereka?
EB: Biaya menyetel ulang model seringkali relatif murah namun merupakan investasi penting karena juga ada biaya untuk mengumpulkan data dan kemudian melatih model. Pelanggan juga perlu mempertimbangkan masa pakai model.
Ketika menyetel ulang, kami menyarankan untuk memulai dengan model dasar (GPT-4o, atau sejenisnya) untuk disesuaikan. Ketika model generasi berikutnya muncul, Anda dapat memilih apakah “Saya akan tetap menggunakan model yang disesuaikan” atau “Saya akan menyesuaikan ulang model generasi berikutnya.”
Menyimpan kumpulan data Anda akan membuat penyesuaian berikutnya lebih mudah, tetapi Anda harus melakukannya lagi. Meskipun itu adalah sesuatu yang harus dipertimbangkan, jangan khawatir karena dampaknya tergantung pada kecepatan inovasi model.
Kami tidak bisa mengatakan apa yang akan terjadi pada kemampuan model baru di masa depan, tetapi pelanggan yang menyetel ulang GPT-4o setahun yang lalu kemungkinan akan puas dengan solusi mereka hari ini, meskipun ada kemajuan dalam model penalaran seperti seri o1.
ZDNET: Hambatan umum apa yang dihadapi organisasi dalam mengimplementasikan AI kustom, dan bagaimana mereka dapat mengatasinya?
EB: Untuk menyesuaikan model, Anda memerlukan data yang menangani di mana dalam aplikasi Anda Anda ingin perbaikan. Memiliki data umum pada model Anda kemungkinan besar tidak akan membawa Anda ke tingkat berikutnya. Anda memerlukan data di mana aplikasi Anda tidak berperforma seperti yang Anda inginkan, sehingga Anda dapat menentukan bagaimana cara meningkatkannya.
Pada masa lalu, kebanyakan perusahaan tidak terbiasa melakukannya, jadi itu adalah otot baru untuk dibangun. Meskipun ada alat dan teknik untuk mengotomatiskannya, banyak perusahaan tidak memiliki orang yang tahu bagaimana melakukannya, jadi mereka perlu berinvestasi dalam mengembangkan keterampilan tersebut terlebih dahulu, dan kemudian bekerja untuk menerapkannya
ZDNET: Pertimbangan etis apa yang harus diingat organisasi saat mendeploy AI kustom?
EB: Saya tidak berpikir AI kustom membawa pertimbangan etis baru. Ini adalah serangkaian hal yang harus Anda pertimbangkan secara luas dengan AI generatif. Ini adalah “Inilah aplikasi yang saya kembangkan. Bagaimana saya akan memastikan itu berperilaku dengan bertanggung jawab untuk merek saya, untuk aplikasi saya, dan untuk konsekuensi potensial dari bagaimana aplikasi ini akan digunakan?”
Semua hal yang kami bahas dalam Standar AI Bertanggung Jawab kami untuk bagaimana kami pikir orang harus berperilaku masih harus dipertimbangkan. Salah satu manfaat menggunakan platform kami untuk mengembangkan dan mendeploy aplikasi AI Anda adalah bahwa Microsoft menawarkan alat seperti Keamanan Konten AI Azure yang bekerja dengan model kustom, sehingga pelanggan dapat yakin sistem mereka bertanggung jawab secara desain.
Prasangka, keadilan, dan transparansi
ZDNET: Bagaimana Microsoft mengatasi kekhawatiran seputar prasangka, keadilan, dan transparansi dalam model AI kustom?
EB: Saat ini, kami menawarkan lebih dari 30 alat dan 100 fitur untuk membantu pelanggan, pengembang, dan peneliti secara bertanggung jawab membangun dengan AI. Meskipun Azure AI Content Safety tertanam secara default di semua model dalam katalog Azure AI Foundry, mencegah penyalahgunaan dan pen