Di tengah semua pembicaraan tentang alat AI generatif, agen, dan robot otonom di South by Southwest, penemu World Wide Web mengangkat sebuah poin sederhana yang harus dihadapi oleh para pengembang jika visi AI di mana-mana ingin terwujud.
“Pertanyaannya, siapa yang akan diuntungkan?” Tim Berners-Lee mengatakan pada Selasa selama sebuah panel yang sebaliknya difokuskan pada robotika di konferensi di Austin, Texas.
Kepercayaan pada sistem AI seperti chatbot telah menjadi titik fokus pembicaraan di SXSW tahun ini. Itu termasuk pembicaraan seputar penggunaan data sintetis dan cara mengatur industri AI.
Pertanyaan Berners-Lee membawa kita ke inti masalah: Sebuah perusahaan dapat membuat model AI-nya dapat diandalkan, akurat, dan tidak memihak. Tetapi karena dibuat oleh perusahaan besar, akan selalu ada pertanyaan apakah mereka memiliki kepentingan produsen atau pengguna di hati.
Dia membuat perbandingan dengan dokter dan pengacara. Dokter Anda mungkin bekerja untuk sebuah universitas, sistem perawatan kesehatan, atau praktik, tetapi mereka memiliki kewajiban untuk bekerja demi kepentingan terbaik Anda. Pengacara Anda juga memiliki kewajiban untuk melakukan apa yang terbaik untuk Anda. Tetapi asisten AI yang membantu Anda merencanakan liburan atau memesan produk? Mungkin dilatih untuk mendorong Anda untuk meningkatkan laba produsennya.
“Saya ingin AI bekerja untuk saya untuk membuat pilihan yang saya ingin buat,” kata Berners-Lee. “Saya tidak ingin AI yang mencoba menjual sesuatu kepada saya.”
Jika Anda meminta asisten AI untuk mendapatkan penawaran terbaik untuk sesuatu, apakah itu mendapatkan penawaran terbaik untuk Anda atau penawaran terbaik untuk dirinya sendiri? Duduk di panel pakar robotika, Berners-Lee menantang mereka untuk mempertimbangkan konflik kepentingan potensial.
“Selalu tanyakan pada AI, ‘untuk siapa kamu bekerja?'” katanya. “Kepentingan siapa yang lebih baik yang sedang kamu kejar dalam keputusan dan keputusanmu?”
Pelajaran dari awal web
Berners-Lee membandingkan lingkungan saat ini seputar kecerdasan buatan dengan awal World Wide Web pada awal tahun 90-an. Saat itu, perusahaan seperti Microsoft dan Netscape bergabung dengan para peneliti dan aktivis untuk membentuk World Wide Web Consortium, atau W3C, untuk membuat infrastruktur internet terbuka.
“Semua perusahaan ini membangun Web bersama, dan kita membuatnya bersama,” katanya.
Kolaborasi itu tidak terjadi dalam AI generatif saat ini, kata Berners-Lee. Dia melihat perusahaan bersaing dan mencoba saling berlomba menuju “kecerdasan super,” tetapi tidak ada organisasi yang sebanding dengan W3C yang menetapkan standar. Dia menyarankan pengembang AI membuat kelompok serupa atau sesuatu seperti CERN, laboratorium penelitian nuklir antarpemerintah di Eropa.
“Kita memiliki itu untuk fisika nuklir,” kata Berners-Lee. “Kita tidak memiliki itu untuk AI.”