Jika semua itu benar – dan tidak ada cara untuk mengetahuinya sekarang – Groq mungkin benar-benar menjadi ancaman bagi dominasi Nvidia. Ross hati-hati ketika membahas hal ini. “Mari kita jelas – mereka adalah Goliath, dan kita adalah David,” katanya. “Akan sangat bodoh untuk mengatakan bahwa Nvidia khawatir tentang kita.” Namun, ketika ditanya tentang Groq, respons cepat Nvidia menunjukkan bahwa startup tersebut memang berada dalam radar mereka. Dengan kecepatan yang hampir sama dengan Groq, tim PR Goliath mengirimkan pernyataan kepada saya yang menunjukkan bahwa keunggulan AI Nvidia tidak hanya terletak pada chipnya tetapi juga layanan lain yang mereka sediakan kepada pelanggan, seperti perangkat lunak AI, memori, jaringan, dan lainnya. “Komputasi AI di pusat data adalah tantangan kompleks yang memerlukan solusi full-stack,” demikian bunyi pernyataannya, menyiratkan bahwa pesaingnya yang tidak disebutkan namanya mungkin memiliki keterbatasan dalam hal stack.
Bagaimanapun, Ross mengatakan bahwa ia tidak bersaing dengan Nvidia tetapi menawarkan pengalaman alternatif – dan bukan hanya dalam hal kecepatan. Dia memiliki misi untuk memastikan bahwa Groq akan memberikan hasil yang adil tanpa terpengaruh oleh sudut pandang politik atau tekanan dari kepentingan komersial. “Groq tidak akan pernah terlibat dalam iklan, sama sekali,” katanya. “Karena itu memengaruhi orang. AI harus selalu netral, tidak boleh memberi tahu Anda apa yang seharusnya Anda pikirkan. Groq ada untuk memastikan semua orang memiliki akses. Ini membantu Anda membuat keputusan Anda, bukan keputusannya.” Sentimen yang bagus, tetapi bahkan chatbot Groq, ketika saya meminta pendapatnya tentang idealisme tahap awal, skeptis terhadap klaim semacam itu. “Tekanan untuk menghasilkan keuntungan dan berkembang bisa membuat pendiri yang berniat baik kompromi pada prinsip-prinsip mereka,” balasnya dengan cepat.
Satu hal lagi. Anda mungkin pernah mendengar bahwa Elon Musk memberi nama “Grok” pada LLM yang dibuat oleh perusahaannya. Hal ini membuat Ross terkejut, karena ia mengatakan bahwa ia telah merekam nama perusahaannya ketika ia mendirikannya pada tahun 2016, dan ia percaya itu mencakup frasa asli yang identik secara fonetis. “Kami sudah memilih,” katanya. “Dia tidak bisa memiliki itu. Kami telah mengirim surat penghentian.” Sampai saat ini ia belum mendapatkan tanggapan dari Musk.
Ketika saya menanyakan Groq tentang perselisihan nama, ia pertama-tama memperingatkan saya bahwa mereka tidak memberikan pendapat hukum. “Namun, saya bisa memberikan beberapa konteks yang mungkin membantu Anda memahami situasi tersebut dengan lebih baik,” kata bot tersebut. Bot tersebut menjelaskan bahwa istilah grok telah digunakan dalam industri selama beberapa dekade, sehingga Musk akan berhak untuk menggunakannya. Di sisi lain, jika Groq telah merekam istilah tersebut, mereka mungkin memiliki klaim eksklusif. Semuanya akurat dan sesuai dengan yang diharapkan dari LLM modern. Yang tidak Anda harapkan adalah bahwa balasannya muncul dalam waktu kurang dari satu detik.
Perjalanan Waktu
Dalam bukunya tentang Google, In the Plex, saya menjelaskan bagaimana perusahaan ini, dan salah satu pendirinya Larry Page, memprioritaskan kecepatan dan menyadari bahwa produk yang lebih cepat tidak hanya digunakan lebih sering, tetapi berbeda. Kecepatan menjadi obsesi di dalam Google.
Insinyur yang bekerja untuk Page dengan cepat belajar tentang prioritas kecepatan ini. “Ketika orang melakukan demo dan lambat, saya terkenal suka menghitung kadang-kadang,” katanya. “Satu seribu, dua seribu. Itu cenderung menarik perhatian orang.” Sebenarnya, jika produk Anda dapat diukur dalam detik, Anda sudah gagal. Paul Buchheit mengingat satu kali ketika ia sedang melakukan demo Gmail awal di kantor Larry. Page membuat wajah dan mengatakan kepadanya bahwa itu terlalu lambat. Buchheit memprotes, namun Page mengulangi keluhannya, mengatakan bahwa reload itu memakan setidaknya 600 milidetik. (Itu enam persepuluh detik.) Buchheit berpikir, Anda tidak bisa tahu itu, tetapi ketika ia kembali ke kantornya sendiri, ia memeriksa log server. Enam ratus milidetik. “Dia berhasil,” kata Buchheit.