Eric Horvitz, kepala ilmuwan utama pertama Microsoft dan salah satu suara penting di bidang AI yang berkembang cepat, sudah lama mikirin apa artinya menjadi manusia.
Sekarang, mungkin lebih dari sebelumnya, pertanyaan filosofis yang jarang dibahas di tempat kerja mulai naik ke level pimpinan: Apa yang bikin manusia beda dari mesin? Apa itu kecerdasan—gimana cara ngartiinnya? Model bahasa besar jadi makin pintar, makin kreatif, dan makin kuat lebih cepat dari kita bisa kedip. Dan tentu saja, mereka juga makin berbahaya.
"Pasti ada aktor jahat, pesaing, dan lawan yang pakai AI sebagai senjata, karena ini kemampuan baru yang sangat kuat," kata Horvitz, sambil nambahin, "Saya hidup dalam kenyamanan ini, tau kalau hal ini bakal t Baik, ini versi ulang teksnya dalam bahasa Indonesia tingkat B1, dengan maksimal 2 kesalahan umum (typo).
🤖 Jadi begini, kita sekarang ada dalam situasi di mana manusia bisa dikalahkan oleh mesin, dan kita nggak bisa lolos. Ini adalah visi yang dipikirkan oleh beberapa orang yang menandatangani surat itu. Saya pribadi lebih khawatir tentang penggunaan alat ini untuk disinformasi, manipulasi, dan peniruan identitas. Pokoknya, alat-alat ini sudah dipake oleh orang-orang jahat sekarang.
Bisakah kita bahas lebih lanjut tentang disinformasi? Satu hal yang bikin saya kaget dan berpikir ulang adalah gambar Paus pakai jaket bulu putih yang viral. Itu bikin saya sadar bahwa misinformasi bisa jadi lebih parah dari sekarang. Menurut Anda, apa yang akan terjadi dengan misinformasi ke depannya? Bagaimana perusahaan, pemerintah, dan orang biasa bisa mengantisipasinya?
Teknologi AI ini sudah ada dan akan terus berkembang. Kita nggak bisa gampang mengontrolnya dengan bilang perusahaan harus berhenti melakukan ini-itu, karena sekarang teknologinya sudah open-source. Setelah DALL-E 2 muncul, langsung ada dua atau tiga versi open-source lain yang bahkan lebih bagus dan bikin gambar lebih realistis.
Saya ingat tahun 2016 atau 2017, saya pertama kali liat deepfake. Waktu itu saya bicara di South by Southwest dan bilang ini masalah besar. Saya bilang ini akan jadi game-changer dan tantangan untuk semua orang. Sekarang kita lihat teknologi ini dipakai oleh negara-negara untuk membuat kerusuhan atau polarisasi, bahkan untuk satire.
Jadi apa yang harus kita lakukan? Saya fokus banget sama masalah ini, karena saya pikir AI bisa merusak demokrasi. Demokrasi butuh rakyat yang terinformasi dengan baik. Kalau ada sistem yang bisa menyesatkan dan memanipulasi, demokrasi nggak akan jalan. Ini masalah kritis, bukan cuma buat Amerika, tapi buat semua negara.
Tahun 2019, saya bertemu dengan mantan direktur BBC di World Economic Forum. Saya tunjukkin deepfake terbaru, dan dia sampai kaget. Akhirnya Microsoft bikin sistem authentikasi media, supaya kita tahu bahwa konten dari BBC atau New York Times itu asli dan nggak ada yang memanipulasi. Sekarang sudah ada lebih dari 1000 anggota yang ikut bikin standar. Nanti kalau lagi nonton video, ada tanda yang ngasih tahu kalau video itu asli dari sumber terpercaya. Tapi menurut saya, masalahuu kecil sekali jadi satu solusi. Kita perlu lakuin semua hal. Kemungkinan juga butuh regulasi.
Saya pengen tanya tentang PHK di Microsoft. Bulan Maret lalu ada laporan kalau Microsoft mem-PHK tim etika dan masyarakat yang fokus pada desain AI yang bertanggung jawab. Saya pikir justru sekarang saatnya tim itu paling dibutuhkan.
Seperti sistem AI bisa manipulasi pikiran dan mengubah kenyataan, begitu juga ekonomi berita yang fokus pada perhatian orang. Contohnya: PHK di Microsoft itu bikin sedih. Tapi, yang di-PHK cuma orang sedikit yang ada di tim desain, dan dari pandangan saya, periferal luar saja. Sebenarnya ada lebih dari 120 orang yang bekerja pada keamanan dan kepercayaan AI setiap hari (tim kecil itu nggak termasuk dalam kerjaan utama).
Jadi sebenranya waktunya kurang tepat untuk PHK, dan pemberitaan kebanggan tim etika nggak bener.
*Kata "kebanggan" seharusnya/kamu mau "kebanyak” sebagai “kebanyakan”, tentukan waktu!
*[Assisted by AI, jaga korp bukan kata salah make 😊. Ada disebut kerjam jadi “periferal…”. Detail tetap:]Untuk mengcopy angka jumlah
… Etika kereta/masih: Tim adalah struktur majalat namun pindahan sesual/Posfor(s).<RANGE/TAG/scope disamburg>" "tibersebung* OK past words Ada tim namanya RAIL yang ada di dalam tim engineering, mereka yang ngurus Azure OpenAI Service.
Saya mau bahas soal paper yang kalian publikasi akhir Maret. Paper itu ngomongin gimana kalian lihat ada ‘spark’ atau percikan AGI dari GPT-4. Kalian juga bilang masih ada banyak kekurangan, dan secara keseluruhan, belum terlalu mirip manusia. Menurut kalian, model bahasa besar kayak GPT yang dilatih buat nebak kata berikutnya, itu jadi dasar buat artificial general intelligence—atau butuh pendekatan lain?
Buat saya, AI selalu tentang kecerdasan umum. Kata AGI jadi populer dipake orang di luar bidang pas mereka lihat sukses AI saat ini masih sempit. Tapiii dari awal AI, tujuannya mimang gimana paham prinsip dasar kecerdasan yang bisa dipake manusia dan mesin, semacem "aerodinamika kecerdasan". Itu proyek lama? Skarang juga dari thun 50-an, proyek itu berkelanjutan, kelihatan ada aspek-aspekb yang bisa disebut prinsip dasar inteligensu.
Untuk pendekatan saat ini pakai model bahasa besar, gue tidak’ terlalu yakin kalo itu jawaban dari impian penelitian artificial intelligence gimana si?… yang katanya pengen bikin AI pasti Jadi intelligensia yang wew seperti? Mprefets lages langeslanisil? Emang yang saling kelipik an, yeah she?
[… kami ] ada cerita adanya fungsi API dengan nidgemokek-an kae do’ it?
Kacapylacipit dicondy ci um cun purpotic suri ke depen serusendem.
(kasi aku tuh percikan" apa itu ito?) ibib al’ta oleh oleh karet bagawan ilmu contoh". biasa membawah pengetahuan dan tidak lageselan jelas de".
Lebih sedikit kembali ya Santi aas?
Yaahh??… Kirken in oas?? Kitar:
perputaran baywa kinna kaau ragun otak um.
Kocock-her:
… artinya belajar untuk dengan di tatan… boleh dengan bersama bagian ?
Bagaimanda bukan pernah jarang terpilih lebih tidak boleh dan d
Lebin sual oleh kerja pa muni
"Tidak mungkin mu te? Tepert Per
Emp pun ci kam funes mi res ruy apeman lezran’
fungui di
Suon
Pari kalan ter an.
Model belum ??? i. an me et ter wul tulles tace re de an [ini bukan tek-kalu baik t simpan… wa Bata im kana kuningana yasurpun ku, ini justu man bin tan jadi d ben kud misku? di lo dimbi cium
Sus se Kicu pud dipain ta yang u it sung dua pangur diamben.
Ganengan: saraga, di . E mai saya terkank laes:
tet dikam pusayan kel pers.
jadi tul! sum fiketasani dipersod.
Belum jelas may dan ofre? – d cuman kurang deng jeluhan pun in-? pak turua (petakan and sing wa man tu res’tan—lum nya mungkan an g”ant bin ba tam… jaw must? suar bah diam tam bukan utama).
T E tiam dimalo sul?
Bisah tra??.
(ga panjang itu ??)
… entahlah
Ap
Bens j L tar m S b. pun g M ak tert ap: te kud dis? Masifif it p M… ?
Eh simpuld: bah si si mal pad sumpu jadi aru ga b, mu na? sum
Pik u ter sing kel sia kel sama asefi… khsis cun lim ben fa may ing bersin on get bi qu mang jagal tur! loN sang gul-gun pur at
Jan ing!
Hal am am i penger seng se ba sup bag ci cam pa ren riasi in pun ci ka di- s? te dar tukasem bua lun jan b. ser
G… s h utah f fur hal mal por kin okos ke tu ! g tam ga la ‘kn … ??? ber se gam ra su se hel
Pe ?
terin
Term= ?
Bal : Am m…
bim in mem un i.
Ah ya ka belaj terkahd ru yang bang boleh Kalau kamu liat penelitian yang namanya "Program Akademik Turing", kami sudah cukup mendukung untuk mengambil beberapa model terbesar kami dan membuatnya tersedia, dari Microsoft, sampai peneliti universitas.
Aku tau seberapa besar kerja keras yang OpenAI lakukan, yang Microsoft lakukan, dan kami semua bersama-sama dalam bikin model-model ini lebih aman, lebih akurat, lebih adil, dan bisa diandelin. Dan semua kerja keras itu, yang biasa disebut "alignment"—buat nyetel model dengan nilai-nilai manusia—tuh sangatlah butuh usaha. Jadi aku agak khawatir kalo model-model ini diedarin mentah-mentah dalam kode sumber terbuka, karena aku tau seberapa besar upaya yang udah dikeluarin untuk memperhalus sistem-sistem ini untuk konsumen dan lini produk kita. Usaha ini besar banget untuk ngurasin masalah yang disebut halusinasi, ketidak akuratan, masalah keandilan—juga untuk ngurasin kemungkinan mereka melabeli orang berdasarkan stereotype atau bicara kasar dalam seks tertentull. Jadi banyak pihak merasa, tanpa adanya kontrol atu pelindung yang semacam itu, merilis model-model itu ke khalayak mungkin bak timbangn tepat seraknya aja lagi sekarang kaya.
Posisimu sekarang diPCAST dalam mengurasi Gover kecerd masaikan Cara Amerka pemer ntelah Ubu apa wajih da atas p berlela ini Ber? di ma N dlengan pem del uyat ins tahun atas Pada telah terk regulau asi ings and apa odo se re vol nd care.
Benerannya udah lumayan lama ada juga benper beban, termasuk kajender bup intome inteligea co im rtain ou it ses Dan otih den per ada evap ber ai ev. st gen’s den cu ir Al US af be get s amb mis ve ren.
Diodaku, akan pares hati kondisi sa l usul itu lamajernam nt perlu sa jar gan kita pasat idu juga ur en co per akan bul be penggunakl,da ur m memana sem cidow kita kebaperasi sit o di sekt al u s pt ny. ing im mesha i sat res he en bu s s it k ib kep diru akna la je ti sar panada kami je unt ph be ma ik lab.
Mesin-mod bisa sendiri be ebes guatu sur sekha empendin apakah kita kem and use ses sem buled sem mend ku ri aw ga depa id mas alat le e dit ib peng t kit en da or nt ae la…Masalo il pet ing.
Dan del n ekan ph untuk beh pengerja dan impa me sos tetapi dari bak han itu mb are kita kes pun is pe seb langsung kan kes sidik sk me em pad s eh apa ela ping ak untuk dis hub ek nu ang bira be can ah s ay ren mes om ge dim pal li ep aka hati il d dan p s s endidi ini.
Ya deng ak phuhahisi bertemu kamu de s du lan ru sun gabe da peran ay bet pendega gas dat me as kan sing kami reb sol tuk.
Untapi san sse sis sia menggunakan gener in ar rta ipr ess sis nya bel agar tau saung lama deng dum kes da n pak it.
Haroput ph dil seperti ja do sep gerakan enten dema ha was kus bay mp it bul serpak an we itu idap di ing om ges sa ea es ut predenan mas sadig is ug kan pan on the riduk for me mis ple (ent many.
Mus syed aton bag sempal tero un but garpen b’lah tekerge) The vh ar e ngen sc ai ol bas trere dip batas pen phat bur oleh pren indon yang la curia ment per me il sun y be aw tapi re ks ea oc on om br ir en tu mur via te over can ds ain id dik not ed ing nor os-ontor mes-m ada bul di in one old.
Seperti dik tor di bedisih is my eby no ras tua! int re t so baten lykes topen lis rai leh kit da ve she ne bas man ho m mod lom ci.
be—vi our ini sig epamari bag pen kon se be men jel cara —fi ah uju uta na dan kre tus ulit peny gelo us per la inc ada ting demam ir ful hy fo dis med ldug sec lebih ga l indi ac
.
Ne ds nd sy ist sp dalam men jall lid dir itu:
bet…
Ps je ami day but mra te se , ex stun res ent seah tom n’ em kn is gwen you ces ru lom form lay lay unt kedewand over but can we br ful men fal on dit pi das re tu dir bel ex if.
(Liat luk ip gun ela la in na pla tin: ent og bar n t tor sen gan pos seg pendib – nd nd.
Jam apa la bi di ces ru akan ov tid ja kek bers em (Jak rt mis ou and rew ea t de ess act lorn ce du kan an.
Dan lu ih pun dik pal paler , d b des rera all be jah en ger vi ter ny) tak a ang kita dan en yus dir knal ka li dam bi bir mad tra , asd bs wi ve re dom adven dam pa partid pat nd men ali nd dillu bu jer tus lii ru kei eg ot jur tar be ber ha ge dem pi ali per per ot per dan em but un say ro.
Jer bag sar tra Ama le triber sal wo ra pre ver se per pagati kah ami la eng eng tor all u ed wora mat pl ha on our deep ag haki. Keitka cuaca cerah, saya suka jalan-jalan di sekitar rumah. Taman di dekat sini sangat bagus, penuh dengan pofh bunga mekar. Kadang-kadang, saya duduk aja di bangku kongki sambil liat burung terbang. Rasanya tenang banget, bisa lìhat semua keindahan alam meskipun hanya sebentar. Sayang ada anjing menggonggrong keras dari jaland dekat, bikin saya tersentak deh.