Sebagai gambaran umum, OpenAI dikenal dengan alat AI generatif yang mudah digunakan yang ditujukan untuk masyarakat umum, namun perusahaan ini juga memiliki penawaran yang komprehensif untuk pengembang dan perusahaan yang membutuhkan model AI untuk kasus penggunaan tertentu mereka. Pada hari Kamis, OpenAI mengumumkan perluasan Program Model Kustomnya dan enam fitur baru untuk API fine-tuning-nya.
Fine-tuning adalah proses panjang dalam menyesuaikan model AI untuk sesuai dengan aplikasi dan kebutuhan spesifik. Fine-tuning tidak hanya membantu model AI lebih berhasil mencapai tujuan yang dimaksud, tetapi juga dapat mengurangi biaya dan menurunkan latensi.
Kadang-kadang, jumlah penyesuaian yang diperlukan melebihi apa yang fine-tuning dapat berikan, seperti ketika organisasi memiliki kumpulan data properti yang sangat besar. Untuk mengatasi masalah ini, OpenAI mengumumkan program Model Kustom pada bulan November 2023, yang memungkinkan “organisasi terpilih” mendapatkan bantuan dari tim peneliti OpenAI untuk melatih GPT-4 khusus untuk domain mereka.
Setelah bertemu dengan puluhan pelanggan untuk mengumpulkan umpan balik tentang bagaimana mengoptimalkan program, OpenAI sekarang menambahkan dua fitur baru: fine-tuning yang dibantu dan model yang dilatih khusus.
OpenAI mengatakan fitur fine-tuning yang dibantu “menggunakan teknik di luar API fine-tuning, seperti hiperparameter tambahan dan berbagai metode fine-tuning parameter efisien (PEFT) dalam skala yang lebih besar.” Fine-tuning yang dibantu dapat membantu organisasi yang mencoba memaksimalkan kinerja model mereka melalui metode seperti menyiapkan pipa data pelatihan yang efisien dan sistem evaluasi.
Sementara itu, model yang dilatih khusus memungkinkan organisasi “melatih model yang dibangun dari awal,” dengan manfaat menciptakan model yang memiliki pemahaman yang lebih dalam tentang bisnis atau domain mereka.
Untuk pengembang yang tidak memerlukan bantuan sebanyak itu dalam fine-tuning, OpenAI telah menambahkan fitur ke API fine-tuning self-service-nya, yang memungkinkan pengembang fine-tuning GPT-3.5 untuk kebutuhan mereka sendiri. Fitur baru termasuk penciptaan checkpoint berbasis epoch, UI perbandingan di playground, dukungan untuk integrasi dengan platform pihak ketiga, metrik validasi komprehensif, konfigurasi hiperparameter, dan perbaikan dashboard fine-tuning.
OpenAI mengatakan ribuan organisasi telah melatih ratusan ribu model menggunakan API sejak diluncurkan pada Agustus 2023.