Selamat datang di Eye on AI, bersama reporter AI Sharon Goldman. Di edisi ini… laporan baru bilang standar baru untuk melawan AI palsu bisa bikin privasi kita dalam bahaya… Nvidia dan Intel umumkan kerjasama besar untuk kembangkan infrastruktur AI dan produk komputer… Meta tingkatkan taruhannya pada kacamata pintar dengan asisten AI… DeepSeek dari Cina katakan model AI mereka hanya butuh biaya $294,000 untuk dilatih.
Minggu lalu, Google bilang telepon Pixel 10 baru mereka akan punya fitur untuk menjawab pertanyaan besar di era AI: Bisa kita percaya apa yang kita lihat? Perangkatnya sekarang dukung Coalition for Content Provenance and Authenticity (C2PA), sebuah standar yang didukung Google dan perusahaan besar lain seperti Adobe, Microsoft, Amazon, OpenAI, dan Meta. Intinya ada sesuatu bernama Content Credentials—seperti label nutrisi digital untuk foto, video, atau audio. Tag metadata ini, yang tidak mudah diutak-atik, tunjukkan siapa yang buat media, bagaimana dibuatnya, dan apakah AI terlibat.
Lebih dari setahun lalu, saya laporkan bahwa TikTok akan otomatis beri label pada semua konten buatan AI yang realistis pakai TikTok Tools dengan Content Credentials. Dan standarnya sebenarnya dibuat sebelum AI generatif populer: C2PA didirikan pada Februari 2021 oleh grup perusahaan teknologi dan media untuk buat standar terbuka untuk asal-usul konten digital, atau sejarah suatu konten, untuk bangun kepercayaan pada informasi online.
Tapi laporan baru dari World Privacy Forum, sebuah organisasi non-profit untuk privasi data, peringatkan bahwa dorongan untuk kepercayaan ini bisa membahayakan privasi. Mereka bilang C2PA sering disalahpahami: itu tidak mendeteksi deepfake atau pelanggaran hak cipta. Sebaliknya, itu diam-diam membangun lapisan teknis baru untuk infrastruktur media—yang menghasilkan banyak data tentang pembuat konten yang bisa dibagikan dan bisa terhubung ke sistem identitas komersial, pemerintah, atau bahkan biometrik.
Karena C2PA adalah kerangka terbuka, metadatanya dirancang untuk disalin, disimpan, dan dianalisis di berbagai platform. Itu menimbulkan pertanyaan sulit: Siapa yang tentukan apa yang ‘terpercaya’? Misalnya, C2PA bergantung pada ‘daftar kepercayaan’ dan program kepatuhan untuk verifikasi peserta. Tapi kalau outlet media kecil, jurnalis indie, atau pembuat konten independen tidak masuk daftar, karya mereka bisa dihukum atau tidak dianggap. Secara teori, siapa saja bisa pakai credentials untuk karya mereka dan daftar ke C2PA untuk jadi entitas terpercaya. Tapi untuk dapat status ‘terpercaya’ penuh, pembuat konten sering butuh otoritas sertifikat yang diakui, penuhi kriteria yang tidak sepenuhnya publik, dan melalui verifikasi. Menurut laporan, ini berisiko meminggirkan suara-suara marginal, bahkan ketika pembuat kebijakan — termasuk anggota dewan New York — dorong adopsi massal.
Tapi masuk ke ‘daftar kepercayaan’ bukan satu-satunya kekhawatiran. Laporan juga peringatkan bahwa keterbukaan C2PA juga punya sisi buruk: kerangkanya bisa terlalu mudah dimanipulasi, karena banyak tergantung pada kebijakan siapa yang pasang credentials—dan hampir tidak ada yang hentikan pelaku jahat untuk pakai ini dengan cara menyesatkan.
“Banyak orang pikir, oh, ini sistem label konten, mereka tidak sadar akan semua lapisan informasi identitas yang mungkin ada di sini,” kata Kate Kaye, wakil direktur World Privacy Forum dan penulis bersama laporan. Dia tekankan bahwa C2PA bukan cuma label sederhana pada media — itu menciptakan aliran data yang bisa disimpan, dicerna, dan terhubung ke informasi identitas di banyak sistem.
Semua ini penting untuk perusahaan dan konsumen. Misalnya, Kaye tekankan bahwa bisnis mungkin tidak sadar bahwa C2PA masuk ke privasi dan tata kelola data dan butuh kebijakan tentang cara mengumpulkan, berbagi, dan mengamankannya. Juga, peneliti sudah tunjukkan mungkin saja untuk menandatangani gambar palsu dengan kriptografi. Jadi sementara perusahaan mungkin pakai C2PA untuk dapat kredibilitas — mereka juga ambil kewajiban baru, potensi tanggung jawab, dan ketergantungan pada sistem kepercayaan yang dikontrol pemain Big Tech.
Untuk konsumen, pasti ada masalah paparan privasi dan identitas. Metadata C2PA bisa termasuk stempel waktu, lokasi, detail penyuntingan, dan bahkan koneksi ke sistem identitas (termasuk ID pemerintah), tapi konsumen mungkin tidak punya kendali atau sadar bahwa ini dicatat. Secara teknis ini opsional—tapi kalau tidak ikut, konten kamu bisa ditandai kurang terpercaya. Dan dalam kasus TikTok, misalnya, pengguna otomatis ikut (platform lain seperti Meta dan Adobe pakai C2PA, tapi biasanya opsional untuk pembuat konten).
Secara keseluruhan, ada banyak dinamika kekuatan yang berperan, kata Kaye. “Siapa yang dipercaya dan siapa yang tidak dan siapa yang memutuskan – itu hal besar yang masih terbuka sekarang.” Tapi beban untuk mencari tahu bukan pada konsumen, dia tekankan: Sebaliknya, itu pada bisnis dan organisasi untuk pikirkan matang bagaimana mereka terapkan C2PA, dengan penilaian risiko yang sesuai.
Dengan itu, inilah berita AI lainnya.
Sharon Goldman
[email protected]
@sharongoldman
FORTUNE ON AI
Eksklusif: Mantan peneliti Google DeepMind dapat pendanaan $5 juta untuk perusahaan baru bawa AI perancang algoritma untuk semua orang – oleh Jeremy Kahn
Perusahaan Big Tech janji investasi $42 miliar di Inggris saat Presiden AS Donald Trump mulai kunjungan kenegaraan – oleh Beatrice Nolan
Saham Nvidia turun, saham teknologi Cina naik saat Beijing coba dorong chip AI lokal – oleh Nicholas Gordon
Mengapa kesepakatan $300 miliar OpenAI dengan Oracle bikin alarm ‘gelembung AI’ berbunyi – oleh Beatrice Nolan
AI DI BERITA
Nvidia dan Intel umumkan kerjasama besar untuk kembangkan infrastruktur AI dan produk komputer. Kesepakatannya, termasuk Nvidia ambil saham $5 miliar di Intel, satukan dua rival lama di saat permintaan untuk komputasi AI meledak. “Kolaborasi bersejarah ini hubungkan erat stack AI dan komputasi dipercepat NVIDIA dengan CPU Intel dan ekosistem x86 yang luas — perpaduan dua platform kelas dunia,” kata CEO Nvidia Jensen Huang. “Bersama, kita akan kembangkan ekosistem dan letakkan fondasi untuk era komputasi berikutnya.”
Meta tingkatkan taruhannya pada kacamata pintar dengan asisten AI. Menurut New York Times, Meta tambah fokus pada kacamata pintar setelah jual jutaannya sejak debut empat tahun lalu. Di konferensi developer tahunan minggu ini, perusahaan perkenalkan tiga model baru — termasuk Meta Ray-Ban Display seharga $799, yang punya layar kecil di lensa, kontrol aplikasi lewat gelang, dan asisten AI suara bawaan. Meta juga perkenalkan model Ray-Ban upgrade dan versi olahraga buatan Oakley. Tapi peluncurannya tidak sempurna: di panggung, demo Mark Zuckerberg gagal ketika kacamata tidak bisa kasih resep dan telepon.
DeepSeek Cina katakan model andalan mereka hanya butuh biaya $294,000 untuk dilatih. Reuters laporkan hari ini bahwa startup AI Cina DeepSeek kembali jadi sorotan setelah bulan-bulan sepi, dengan detail baru tentang cara mereka latih model R1 yang fokus pada penalaran. Artikel Nature baru-baru ini yang ditulis bersama pendiri Liang Wenfeng ungkap sistemnya hanya butuh biaya $294,000 untuk dilatih menggunakan 512 chip H800 eksklusif Cina dari Nvidia — sangat kontras dengan perusahaan AS seperti OpenAI, yang biaya pelatihannya lebih dari $100 juta. Tapi pertanyaan tetap: Pejabat AS bilang bahwa DeepSeek punya akses ke banyak chip H100 yang dibatasi, meski ada kontrol ekspor, dan perusahaan sekarang secara formal akui mereka juga pakai chip A100 yang lebih tua di pengembangan awal. Penemuan ini mungkin nyalakan kembali debat tentang “hukum skala” AI dan apakah cluster besar chip AI paling canggih benar-benar perlu untuk latih model AI tercanggih. Itu juga sorot ketegangan geopolitik yang berlanjut atas akses ke chip Nvidia.
KALENDER AI
6-10 Okt: World AI Week, Amsterdam
21-22 Okt: TedAI San Francisco. Daftar untuk hadir di sini.
10-13 Nov: Web Summit, Lisbon.
26-27 Nov: World AI Congress, London.
2-7 Des: NeurIPS, San Diego
8-9 Des: Fortune Brainstorm AI San Francisco. Daftar untuk hadir di sini.
ANGKA EYE ON AI
50%
Setengah orang Amerika sekarang lebih khawatir daripada senang dengan peran AI yang tumbuh di kehidupan sehari-hari — naik dari hanya 37% di 2021, menurut studi Pew Research baru. Hanya 10% yang bilang mereka lebih senang daripada khawatir, sementara 38% rasakan keduanya sama rata.
Mayoritas bilang mereka ingin lebih banyak kontrol atas bagaimana AI muncul di hidup mereka. Lebih banyak yang percaya AI akan rusak — bukan tingkatkan — kreativitas dan hubungan orang. Tapi, banyak yang tidak masalah dengan AI bantu tugas sehari-hari.
Oraya Amerika buat garis jelas: kebanyakan tolak AI di domain pribadi seperti agama atau jodoh, tapi lebih terbuka untuk penggunaannya di bidang yang banyak data seperti perkiraan cuaca atau penelitian medis. Dan sementara kebanyakan bilang penting untuk tahu apakah gambar, video atau teks berasal dari AI atau manusia, banyak yang akui mereka tidak bisa bedakan dengan andal.