Software kecerdasan buatan tidak selalu berperilaku sesuai dengan yang diinginkan oleh para pengembangnya – masalah yang berpotensi berbahaya yang telah menyerap sebagian dari perusahaan-perusahaan terbesar yang bekerja pada teknologi tersebut.
Perusahaan-perusahaan besar seperti OpenAI dan Google milik Alphabet Inc. semakin mengarahkan pekerjanya, uang, dan daya komputasi ke arah masalah tersebut. Dan Anthropic, pesaing OpenAI, telah menempatkannya sebagai inti dari pengembangan Claude, produk yang dijuluki sebagai jenis chatbot AI yang lebih aman.
Mulai bulan ini, perusahaan baru bernama Synth Labs juga bertujuan untuk menangani masalah tersebut. Didirikan oleh sejumlah nama terkemuka dalam industri kecerdasan buatan, perusahaan ini mulai muncul dari ketenangan minggu ini, dan telah mengumpulkan pendanaan awal dari dana modal ventura Microsoft Corp., M12, dan First Spark Ventures milik Eric Schmidt. Synth Labs terutama fokus pada membangun perangkat lunak, sebagian di antaranya bersifat open source, untuk membantu sejumlah perusahaan memastikan bahwa sistem AI mereka bertindak sesuai dengan niat mereka. Perusahaan ini memposisikan diri sebagai perusahaan yang bekerja secara transparan dan kolaboratif.
Alignment, atau masalah ini kadang-kadang disebut, merupakan tantangan teknis bagi aplikasi kecerdasan buatan seperti chatbot yang dibangun di atas model bahasa besar, yang biasanya dilatih pada data internet yang luas. Upaya tersebut menjadi rumit karena etika dan nilai-nilai orang – serta ide mereka tentang apa yang AI boleh dan tidak boleh lakukan – bervariasi. Produk Synth Labs akan berusaha membantu memandu dan menyesuaikan model bahasa besar, khususnya model yang sendiri bersifat open source.
Perusahaan ini memulai proyeknya sebagai bagian dari laboratorium riset AI nirlaba EleutherAI, yang dikerjakan oleh dua dari tiga pendiri – Louis Castricato dan Nathan Lile – ditambah penasihat Synth Labs dan direktur eksekutif EleutherAI Stella Biderman. Francis deSouza, mantan chief executive officer perusahaan bioteknologi Illumina Inc., juga menjadi pendiri. Synth Labs menolak untuk mengungkapkan seberapa besar pendanaan yang telah mereka kumpulkan sejauh ini.
Selama beberapa bulan terakhir, startup ini telah membangun alat-alat yang dapat dengan mudah mengevaluasi model bahasa besar pada topik-topik kompleks, kata Castricato. Tujuannya, katanya, adalah untuk memperdemokratisasi akses ke alat-alat yang mudah digunakan yang dapat secara otomatis mengevaluasi dan menyelaraskan model AI.
Sebuah makalah penelitian terbaru yang ditulis bersama oleh Castricato, Lile, dan Biderman memberikan gambaran pendekatan perusahaan: Para penulis menggunakan respons terhadap promosi, yang dihasilkan oleh model AI GPT-4 milik OpenAI dan model AI Stable Beluga 2 milik Stability AI, untuk membuat satu set data. Set data tersebut kemudian digunakan sebagai bagian dari proses otomatis untuk mengarahkan chatbot untuk menghindari pembicaraan tentang satu topik dan malah membicarakan topik lain.
“Cara kami memikirkan desain beberapa alat awal ini benar-benar tentang memberi Anda kesempatan untuk memutuskan apa yang sejatinya disesuaikan dengan bisnis Anda atau preferensi pribadi Anda,” kata Lile.