OpenAI, Anthropic, dan Block telah bekerja sama untuk mendirikan sebuah yayasan baru yang berjanji akan membantu menstandarisasi pengembangan agen AI.
Agentic AI Foundation (AAIF) yang baru ini akan beroperasi di bawah naungan Linux Foundation, sebuah lembaga nirlaba yang mengawasi berbagai proyek sumber terbuka termasuk sistem operasi Linux.
Selain mendirikan yayasan tersebut, masing-masing dari ketiga perusahaan itu menyumbangkan sebagian teknologi agen mereka kepada organisasi ini.
OpenAI menyerahkan kepemilikan standar universal AGENTS.md miliknya, yang memberikan agen coding AI sumber panduan konsisten yang spesifik untuk proyek di berbagai platform. Anthropic menyumbangkan Model Context Protocol (MCP) mereka, yang menyediakan cara standar untuk menghubungkan model AI ke alat, data, dan aplikasi. Sementara Block menyumbangkan kerangka kerja agen AI sumber terbuka mereka, Goose, yang digunakan pengembang untuk membangun agen AI.
“Dalam waktu hanya satu tahun, MCP, AGENTS.md, dan Goose telah menjadi alat penting bagi pengembang yang membangun kelas teknologi agenik baru ini,” kata Jim Zemlin, direktur eksekutif Linux Foundation, dalam siaran pers. “Menyatukan proyek-proyek ini di bawah AAIF memastikan mereka dapat berkembang dengan transparansi dan stabilitas yang hanya disediakan oleh tata kelola terbuka.”
Kelahiran yayasan ini terjadi ketika perusahaan-perusahaan AI berusaha melampaui chatbot sederhana menuju agen otonom yang dapat mengambil tindakan untuk pengguna, seperti memesan reservasi atau berbelanja daring. Tujuan AAIF adalah memajukan standar industri sehingga semakin banyak agen yang muncul, mereka dapat bekerja bersama dengan aman, transparan, dan mulus.
Namun, karena teknologi ini masih dalam tahap awal, para peneliti telah mulai menunjukkan risiko yang muncul dari penggunaan agen saat ini.
Pekan lalu, firma analis Gartner merekomendasikan agar perusahaan dan organisasi memblokir karyawan mereka dari menggunakan peramban AI untuk sementara waktu. Laporan mereka mendefinisikan peramban AI sebagai peramban yang menyertakan “bilah samping AI” yang dapat mencari, membuat ringkasan, dan berinteraksi dengan halaman web, serta memiliki kemampuan transaksi agenik seperti mengizinkan peramban untuk menavigasi, berinteraksi, dan menyelesaikan tugas di situs web.
Gartner memperingatkan bahwa fitur bilah samping AI dapat membocorkan informasi sensitif pengguna, karena kemungkinan besar mengumpulkan data terkait konten web aktif, riwayat peramban, dan tab yang terbuka.
Kemampuan agenik dari peramban-peramban ini juga menghadapi kerentanan unik. Mereka dapat rentan terhadap apa yang dikenal sebagai “tindakan agen nakal yang diinduksi oleh injeksi perintah tidak langsung,” yang terjadi ketika seorang agen menemukan konten yang berpotensi berbahaya yang mendorongnya untuk mengabaikan pagar pengaman dan mengeksekusi transaksi keuangan yang tidak diinginkan atau membocorkan data sensitif.
Baru minggu ini, Google memperkenalkan apa yang mereka sebut “User Alignment Critic,” sebuah model AI terpisah yang berjalan berdampingan dengan agen AI tetapi tidak terpapar konten pihak ketiga untuk menghindari risiko ini. Idenya adalah untuk memeriksa rencana agen dan memastikannya selaras dengan tujuan pengguna.
Gartner juga memperingatkan bahwa agen AI bisa saja membuat kesalahan, seperti memesan penerbangan yang salah atau memesan jumlah barang yang tidak tepat.
Beberapa nama besar lain di bidang AI telah bergabung sebagai anggota yayasan ini, termasuk Microsoft, AWS, dan Cloudflare.