Dari mulai halusinasi sampai agen yang kebablasan, ada beberapa resiko yang sangat jelas pas kita pakai AI.
Tapi, banyak perusahaan gak bisa hanya duduk diam dan ketinggalan revolusi AI. Urusan yang rumit ini jadi tantangan besar buat para pemimpin bisnis sekarang, dan beberapa eksekutif dari perusahaan terkemuka ngumpul buat berbagi pengalaman mereka di Fortune Brainstorm Tech di Aspen, Colorado.
Yang paling utama adalah masalah tanggung jawab. Maksudnya, kita harus bisa ngikutin—dan kalo perlu meriksa lagi—semua langkah yang diambil sistem AI waktu ngerjain tugas tertentu.
“Hal penting yang kita khawatirin gimana cara bikin sistem yang seakurat mungkin,” kata Edwin Olson, pendiri dan CEO perusahaan teknologi mobil otonom May Pergerakan. “Tapi yang lebih penting lagi, karena kita tau pasti ada kalanya sistem itu bikin salah, gimana kita bikin sistem yang transparan dan bisa dilihat ke dalamnya, jadi kita ngerti kenapa itu bisa salah, dan ngomong ke regulator gimana cara kita pastiin masalahnya udah diurus untuk ke depannya.”
Caitlin Halferty, kepala data officer di Thomson Reuters, setuju banget. Dia tekankan pentingnya hasil kerja AI yang transparan: “Saya lakuin ini sama tim saya, saya sendiri, dan juga sama klien-klien saya, pastiin ada cara buat kamu validasi hasil dari model apa pun yang kamu pake.”
Dengan banyak layanan bertenaga AI buat profesional di bidang kayak hukum dan pajak, Thomson Reuters udah fokus soal tanggung jawab AI dari awal. Transparan itu salah satu dari empat pilar utama produk yang mereka sebut “fiduciary grade,” kata Halferty. Sisanya adalah privasi data dan keamanan, ahli topik, sama konten yang terpercaya.
Triks penting lainnya dari beberapa panelis ada bikin sistem yang bisa saling ngawasin. Di May Pergerakan, kata Javan, mereka pasang sistem di mobil otonom yang bisa simulasi dan nilai berbagai skenario bareng-bareng, terus milih yang paling oke.
Tapi sistem kayak gini juga bisa dipake di perusahaan k. Kvochko menyebut teknik ini “LLM sebagai juri” dan pake analogi kantor berita buat jelasin.
“Kamu punya satu orang atau agen yang tugasnya nulis, terus ada lagi yang jadi editor—tugasnya cuma nyari salah, atau apa yang mungkin terlewat penulis. Pokoknya gitu cara kamu mau desain sistem LLM, jadi mereka bisa ningkatin diri sendiri.”
Tapi, lanjut Kvochko, yang penting adalah proses verifikasinya harus ada di sistem AI yanga terpisah. “Jangan biarin AI nilai kerjaannya sendiri,” katanya.
Punya rencana yang pintar buat verifikasi AI makin penting banget soalnya teknologi ini makin sering ngerjain banyak tugas, sampai lam tentang orang.
“Jadinya kamu banyakin kerjaan yang harus diaudit, sampai gak bisa bener-bener dilwain pertanggung jawaban,” kata Gregor Stuart, Chief AI Officer di SentinelOne.
Dia sota ke koding komputer, yang katanya bisnis idining di atas bisnis idahulu ketimbang yang langingsung ajali. Dariduftingennyar ribu baris kode AI bikutiran-kubah aplan buat tetap yang amerkantor hasil kre bisa dimpor ke ya.
“There with lat sistem tech kesingsis di laternatif mengautomatiskil umum.
I love well together, kecuali error may i learn?”