Gambar: Jiojio/Moment via Getty Images
Ikuti ZDNET: Tambahkan kami sebagai sumber pilihan di Google.
—
Poin Penting ZDNET:
- Adopsi agen AI yang sukses memerlukan context engineering.
- Context engineering membutuhkan akses ke data, metadata, alur proses, dan lainnya.
- Context engineering memastikan data Anda siap untuk penggunaan AI yang agenik.
—Mengapa karyawan lama Anda pada awalnya lebih unggul daripada bintang baru yang baru Anda rekrut? Dan mengapa ada masa orientasi sebelum karyawan baru bisa berjalan dengan lancar?
Pengetahuan kelembagaan. Bintang baru itu tahu cara melakukan pekerjaannya. Itu sebabnya Anda merekrut mereka. Namun mereka butuh waktu untuk memahami budaya perusahaan, proses, pendekatan, aplikasi, tim mereka, serta pelanggan dan mitra.
Dalam dunia AI, pengetahuan kelembagaan ini disebut konteks. Agen AI adalah karyawan bintang baru tersebut. Anda dapat mengarahkan mereka dalam hitungan menit, bukan bulan. Dan semakin banyak konteks yang Anda berikan, semakin baik kinerja mereka.
Saat Anda mendengar laporan bahwa agen AI berkinerja lebih baik dengan data yang akurat, pikirkan lebih luas dari sekadar data pelanggan. Data yang dibutuhkan AI untuk bekerja efektif juga mencakup data yang mendeskripsikan pengetahuan kelembagaan: konteks.
Kita akan membahas context engineering sebentar lagi.
Memahami Konteks
Mari kita lihat berbagai jenis konteks, sumbernya, dan apakah ia terstruktur atau tidak—semua ini akan menentukan bagaimana ia disajikan kepada agen AI.
Anda sering mendengar tentang model yang memiliki context window yang besar. Claude memiliki context window 1 juta token; ChatGPT 5.2 memiliki jendela 400.000 token. Namun ini tidak cukup untuk menangani segala hal tentang perusahaan. Pertimbangkan konfigurasi org Salesforce—20 apex class dengan kompleksitas relatif tinggi bisa melebihi 250.000 token. Jadi, kita perlu selektif dan menyediakan konteks untuk peran yang dijalankan agen AI: itulah context engineering.
Context Engineering
Seperti terlihat dari tabel di bawah, banyak informasi ini tidak terstruktur. Karyawan Anda mahir menafsirkannya dan mengisi celah menggunakan penilaian serta menerapkan pengetahuan kelembagaan. Agen AI kini bisa mengurai data tidak terstruktur, tetapi tidak sebaik manusia dalam menerapkan penilaian saat ada konflik, nuansa, ambiguitas, atau kelalaian. Inilah penyebab hallucinations.
| Kategori Konten | Sumber | Terstruktur / Tidak Terstruktur | Contoh Sumber |
| —————————— | ————————————————————————— | ——————————- | ———————————————– |
| Budaya Perusahaan | Laporan tahunan, Panduan merek pemasaran, Buku pegangan karyawan baru | Tidak Terstruktur | Penyimpanan file |
| Operasi/Proses Bisnis | Diagram proses BPN | Tidak Terstruktur | Pemetaan proses |
| Konfigurasi Aplikasi | Metadata & dependensi | Terstruktur | Change intelligence, Sistem tiket, MDM |
| Data | Aplikasi CRM, ERP | Terstruktur | Aplikasi perusahaan |
| Tim | Bagan organisasi, Deskripsi pekerjaan | Tidak Terstruktur | Aplikasi HR, Penyimpanan file |Jadi, konteks yang Anda sediakan perlu lengkap dan dapat dibaca AI. Namun konteks juga harus spesifik untuk peran agen AI agar context window tidak kewalahan. Caranya adalah dengan mempertimbangkan proses ujung-ke-ujung yang dilakukan agen AI dan menggunakannya untuk membatasi cakupan konteks. Itu memerlukan penguraian berbagai aplikasi yang menyimpan konteks untuk menarik informasi pada tingkat yang tepat. Jika kita melihat akuisisi Salesforce, ini mulai masuk akal: Data360, Informatica, MuleSoft, dan Tableau adalah berbagai bentuk konteks dalam skala besar.
Konteks dalam Konteks
Seperti yang telah dikatakan, menyediakan konteks yang benar kepada Agen AI pada tingkat detail yang tepat berarti mengurai sumber data ini dengan pemahaman yang jelas tentang proses ujung-ke-ujung yang coba dilakukannya.
Ini merupakan kombinasi dari proses bisnis yang terdokumentasi dan konfigurasi aplikasi yang terkode dalam metadata dan dependensi. Dan ini bukan hanya tentang apakah metadata menggunakan metadata lain, tetapi mengapa dan bagaimana.
Peta proses memberikan visibilitas ke aktivitas manual antar aplikasi atau di dalam aplikasi. Keakuratan dan kelengkapan diagram proses yang terdokumentasi sangat bervariasi. Proses front-office umumnya sangat buruk. Proses back-office di industri yang diatur biasanya sangat baik. Dan untuk memanfaatkan kekuatan agen AI, organisasi perlu merampingkan dan mengoptimalkan proses bisnis mereka. Ini telah memicu revolusi reengineering proses yang mencerminkan era 1990-an. Kali ini, tingkat detail yang dibutuhkan oleh agen AI lebih tinggi daripada untuk manusia.
Pemahaman konfigurasi aplikasi melalui metadata dan dependensi tersedia, tetapi sering dikacaukan oleh technical debt yang tinggi. Dan itu memerlukan analisis canggih agar lengkap dan terpercaya. Agen AI belum mampu mengambil semua metadata dan memahaminya. Terlalu banyak data. Satu-satunya pendekatan adalah menggunakan alur kerja agenik yang sangat cerdas dari tugas-tugas bedah berantai untuk menjalankan analisis.
Apakah Konten Anda Siap untuk AI?
Untuk setiap jenis konten, kita perlu menanyakan lima pertanyaan:
- Apakah informasinya ada, siapa pemiliknya, dan insentif apa yang mereka miliki untuk mendukung proyek?
- Apakah informasinya mutakhir, dan apa proses untuk memelihara dan mengelolanya?
- Apakah ditulis untuk AI, dan perubahan apa yang perlu dibuat untuk mencegah ambiguitas dan kebingungan?
- Di mana seharusnya disimpan agar AI dapat mengaksesnya, dan kontrol keamanan serta akses apa yang harus diterapkan?
- Bagaimana seharusnya distrukturkan dan ditandai untuk kurasi, menyeimbangkan detail dengan penggunaan token?
Mari kita lihat tiga jenis konten—budaya, proses bisnis, dan aplikasi—dan pertimbangkan masing-masing secara bergantian.
Budaya Perusahaan
Ini adalah informasi yang biasanya diberikan kepada karyawan baru selama orientasi, tetapi juga pengetahuan tidak berwujud yang diserap seiring waktu. Agen AI membutuhkan semuanya sekaligus.
- Eksistensi dan Kepemilikan: Mengacu pada konten orientasi yang digunakan organisasi, termasuk kebijakan perusahaan. Agen AI tidak peduli seberapa membosankan kontennya. Bisa juga dokumen lain yang menunjukkan budaya dan kepribadian organisasi—panduan merek pemasaran, laporan tahunan, dan presentasi pemegang saham. Bahkan gaya testimoni pelanggan, video pemasaran, dan desain kantor akan memberikan warna pada kanvas kosong. Mungkin ada tabel akronim perusahaan. Komplikasinya adalah ini dimiliki oleh tim yang berbeda. Ada pekerjaan yang harus mereka lakukan untuk mendukung proyek, tetapi apa prioritas dan insentif mereka? Idealnya, pemasaran harus memimpin.
- Valid dan Bernilai: Dari semua dokumentasi perusahaan, ini mungkin yang terjaga cukup mutakhir, kecuali ada re-branding baru-baru ini. Jika demikian, Anda harus berhati-hati tentang apa yang disertakan. Mungkin mutakhir, tetapi apakah masih relevan dan bernilai?
- Ditulis untuk AI: Materi orientasi mungkin ditulis untuk dipresentasikan kepada pemula, bukan untuk dibaca. Oleh karena itu, bisa ada celah konteks yang besar, yang perlu diisi dengan pembukaan atau catatan. Konten lain perlu ditempatkan dalam konteksnya sendiri. Misalnya, agen AI perlu diberi tahu cara menafsirkan video testimoni pelanggan atau pedoman merek. Dokumen kebijakan perusahaan sering ditulis untuk manusia, dengan nuansa dan asumsi yang tidak akan dipahami agen AI selama orientasi dan melalui pengetahuan tribal.
- Akses dan Keamanan: Konten ini sebagian besar tidak terstruktur dan bervolume tinggi. Testimoni pelanggan mungkin perlu ditranskripsi ke teks daripada diindeks sebagai video. Ini berarti solusi seperti Data 360 perlu digunakan untuk membuatnya dapat diakses dan mudah dicari. Namun, kita juga perlu mempertimbangkan kontrol keamanan dan akses. Apakah ada IP, data sensitif, atau informasi pribadi yang tidak boleh diekspos? Tingkat keamanan dua atau tiga set data ketika dipegang secara terpisah mungkin jauh lebih rendah daripada ketika digabungkan. Setelah data diagregasi, tingkat keamanannya mungkin jauh lebih tinggi berdasarkan wawasan yang sekarang tersedia.
- Struktur dan Penandaan: Ini adalah data yang sulit distrukturkan, karena hampir semuanya diperlukan sebagai latar belakang bagi agen AI daripada dalam konteks menjalankan suatu proses. Ada keseimbangan antara menyediakan semua informasi pada tingkat detail dan biaya serta kelayakan penggunaan token. Jadi, Anda perlu mempertimbangkan cara mengkategorikan data sehingga dapat diiris-iris dan disajikan kepada agen AI dengan cara yang paling hemat token.
Operasi/Proses Bisnis
Proses bisnis yang terdokumentasi adalah struktur kritis bagi agen AI untuk memberikan hasil. Tetapi mereka juga mendeskripsikan proses pendukung yang mengelilingi agen AI dan diandalkannya atau didelegasikannya. - Eksistensi dan Kepemilikan: Kebanyakan organisasi memiliki proses yang terdokumentasi. Dalam lebih dari 30 tahun bekerja di bidang business process engineering, kami menemukan bahwa proses biasanya tidak lengkap, kedaluwarsa, dan dalam berbagai format. Untungnya, Anda tidak perlu memperbarui setiap proses; hanya yang terkait dengan agen AI yang Anda bangun, yang kemungkinan dimiliki oleh satu atau dua unit bisnis. Proses perlu mencakup aktivitas otomatis dan manusia, tetapi pada tingkat detail yang jauh lebih besar. Agen AI tidak menangani nuansa, celah, dan ambiguitas sebaik manusia. Kini Anda dapat menggunakan AI untuk membantu membangun proses draf pertama. Ia dapat menghasilkan diagram proses dari catatan, diagram, atau bahkan metadata sistem. Ini dapat disempurnakan dengan bekerja bersama pimpinan dan pengguna.
- Valid dan Bernilai: Proses terpenting untuk didokumentasikan dan dioptimalkan adalah proses perbaikan proses itu sendiri. Ini menjadi sangat penting bagi agen AI yang akan mengambil konten secara harfiah, dan mengandalkan dokumentasi proses yang mutakhir untuk berperilaku seperti yang diharapkan.
- Ditulis untuk AI: AI sangat baik dalam memahami diagram terkait proses dan dokumen prosedural. Masalahnya adalah kualitas dokumentasi: kelengkapan, akurasi, dan kemutahirannya.
- Akses dan Keamanan: Sekali lagi, jika itu dokumentasi tidak terstruktur, seperti gambar, solusi seperti Data 360 diperlukan untuk membuatnya dapat diakses dan mudah dicari. Tetapi diagram proses dapat disajikan sebagai JSON terstruktur, yang lebih mudah dikonsumsi oleh AI.
- Struktur dan Penandaan: Ini sangat spesifik untuk cakupan dan hasil dari agen AI. Oleh karena itu, metadata dari diagram proses menjadi penting.
Konfigurasi Aplikasi
Metadata aplikasi mendeskripsikan struktur data, logika bisnis, dan izin dari aplikasi tertentu. Jika agen AI menjangkau batas aplikasi, konten perlu ditambah dengan diagram arsitektur yang menjelaskan bagaimana aplikasi bekerja sama. Juga termasuk dalam diagram ini adalah bagaimana agen-agen bekerja sama. - Eksistensi dan Kepemilikan: Data ini disimpan dalam setiap aplikasi sebagai metadata. Namun, ia perlu lebih dari sekadar daftar metadata. Ia perlu menyertakan dependensi metadata, seperti analisis metadata yang dihasilkan Elements.cloud untuk Salesforce. Aplikasi seperti Informatica dirancang untuk menyimpan metadata dari berbagai sistem.
- Valid dan Bernilai: Metadata 100% akurat. Analisis metadata dapat dilakukan kapan pun ia berubah, sehingga juga bisa 100% akurat.
- Ditulis untuk AI: Metadata sangat terstruktur, dan karenanya, sangat cocok untuk dibaca oleh AI.
- Akses dan Keamanan: Karena sangat terstruktur, ia dapat disimpan dalam database apa pun. Yang penting adalah bagaimana ia distrukturkan sehingga dapat diakses. Masalahnya adalah, aplikasi apa pun memiliki terlalu banyak metadata, dan itu akan membebani batas token.
- Struktur dan Penandaan: Metadata perlu dikaitkan kembali dengan proses bisnis operasional yang dijalankan agen AI dan sumber data yang dibutuhkan agen AI.
Hanya 7% Komunikasi adalah Kata-kata
Ada ungkapan umum bahwa komunikasi hanya 7% kata-kata. Lalu bagaimana dengan 93% lainnya?
- Kata-kata (7%): Konten verbal (makna harfiah).
- Nada (38%): Kualitas suara, nada, dan volume.
- Visual (55%): Ekspresi wajah dan bahasa tubuh.
Tonilitas bertindak sebagai tanda baca bahasa lisan. Ambil kalimat sederhana: "Saya ingin bertemu Anda di kantor saya." Konteks adalah 93% itu. Kita menginstruksikan AI dengan kata-kata; yang 7%. Pantaskah kita heran mendapatkan hallucinations dan hasil yang tidak konsisten? Kita perlu menyediakan 93% lainnya. Konteksnya. Ini bisa mencakup: hubungan antara pelanggan dan perusahaan, kepentingan relatif dari berbagai aspek data, tahap dalam proses, urgensi, dan nilai hasil. Dan konteks itu disediakan sebagai kata-kata dan data. Jadi kita perlu memastikan ada konteks untuk konteks tersebut.
Context engineering adalah istilah baru untuk agen AI, tetapi kontennya sudah ada dalam organisasi sebagai pengetahuan kelembagaan yang diserap orang seiring waktu. Agen AI dibangun untuk menerima banjir informasi tetapi memerlukannya agar akurat dan tidak ambigu. Itu berimplikasi bagi organisasi yang ingin mengakses manfaat agen AI yang mampu memberikan hasil yang canggih. Berikut adalah rencana aksi 3 langkah:
- Dokumentasikan cakupan agen AI Anda, termasuk proses dan hasil ujung-ke-ujung.
- Identifikasi informasi kontekstual kritis yang diperlukan agar agen AI berkinerja pada tingkat tertinggi, dan tinjau kualitasnya.
- Formatkan informasi kontekstual dalam platform yang dapat mengurasiinya untuk agen AI.
Artikel ini ditulis bersama oleh Ian Gotts, senior research fellow di Keenan Vision, co-founder Elements.Cloud, penulis 10X, penasihat teknologi, pembicara, dan investor.