fotograzia/Moment/Getty Images
Ikuti ZDNET: Tambahkan kami sebagai sumber pilihan di Google.
**Poin Penting ZDNET**
* Kode buatan AI memerlukan pengawasan manusia yang lebih ketat.
* Para ahli menyarankan untuk mengisolasi kode buatan AI di *sandbox*.
* Dalam kondisi terbaik, AI mungkin hanya menyelesaikan sekitar 80% pekerjaan dalam pembuatan perangkat lunak.
Kita terus-menerus mendengar bagaimana alat-alat AI dan *vibe coding* dianggap mengurangi kebutuhan akan koder dan programmer manusia. Mungkin sudah waktunya untuk mengevaluasi ulang logika argumen tersebut.
Lebih Banyak Pengawasan Manusia
AI — beserta segala hal terkait *vibe* itu — tidak mengurangi pentingnya peran koder manusia. Justru, AI membutuhkan pengawasan manusia yang bahkan lebih intensif dalam hal menghasilkan dan mengimplementasikan perangkat lunak, demikian argumen Michael Li dalam sebuah artikel terbaru di *Harvard Business Review*.
Alat-alat semacam itu justru membuat pengalaman coding “menjadi lebih — bukan kurang — penting,” ujar Li. AI tidak dapat menggantikan insinyur perangkat lunak dan koder yang sesungguhnya. Ia mengacu pada sebuah studi terkini yang menyimpulkan bahwa “meski para pengembang memperkirakan AI membuat mereka 20% lebih cepat, nyatanya justru membuat mereka 19% lebih lambat.”
Dalam hal desain, kreasi, dan implementasi perangkat lunak, prosesnya jauh melampaui sekadar menghasilkan kode. “Pastikan setiap perubahan yang dibuatnya diperiksa ulang — dengan pemeriksaan otomatis, tes sederhana untuk memastikan segala sesuatunya masih berfungsi, dan setidaknya satu kali tinjauan oleh manusia,” kata Li, pendiri dan CEO The Data Incubator serta Presiden Pragmatic Institute.
Isolasikan dalam *Sandbox*
Pada titik ini, Li menyarankan agar pengembangan berbasis AI tetap diisolasi dalam *sandbox*. “Jangan pernah berikan ia akses ke data pelanggan langsung (*live*), dan rutin periksa kesalahan keamanan dasar seperti file atau penyimpanan yang terbuka untuk publik. Pertahankan insinyur berpengalaman yang memegang kendali atas desain, aturan, dan pemeriksaan keamanan agar kecepatan AI tidak berubah menjadi kegagalan yang mahal harganya.”
Banyak suara yang sependapat dengan premis Li bahwa pengembangan perangkat lunak berbasis AI saat ini bukanlah ancaman eksistensial bagi pekerjaan di bidang perangkat lunak. Mengatakan AI akan “menggantikan insinyur perangkat lunak berarti melewatkan gambaran yang lebih besar,” ujar Christel Buchanan, pendiri ChatandBuild. “Eksekusi menjadi lebih murah. Arahan, pertimbangan, dan kreativitas justru menjadi lebih bernilai.”
Paling banter, AI mungkin mengerjakan sekitar 80% pekerjaan dalam membangun perangkat lunak, jelas Buchanan. “Tetapi 20% sisanya — mendefinisikan *edge cases*, merancang arsitektur untuk skala, meluncurkan dengan tujuan yang jelas — itu masih membutuhkan pikiran manusia. Saya rasa AI tidak menggantikan insinyur. Ia membentuk ulang pekerjaan itu menjadi sesuatu yang lebih strategis, lebih berorientasi produk, dan sejujurnya, lebih menyenangkan.”
AI akan Memperbesar Kekeliruan
Risiko terbesar jika produksi kode diserahkan pada AI adalah kealpaan, kata Alok Kumar, *co-founder* dan CEO Cozmo AI, yaitu: “Jika proses Anda ceroboh, AI akan memperbesar kecerobohan itu.”
Keuntungan yang dibawa AI adalah kemampuannya untuk “memampatkan *feedback loop* dan memungkinkan insinyur fokus pada pemecahan masalah alih-alih tugas-tugas mekanis,” kata Kumar. “Anggaplah ia bukan sebagai pengganti, tetapi sebagai penambah nilai sejati yang melipatgandakan kapasitas insinyur manusia.”
Insinyur perangkat lunak dan programmer harus meningkatkan peran mereka di mana pertimbangan manusia memberi nilai tambah yang khas, ujar Tanner Burson, seorang pemimpin teknik di Prismatic.
Area-area ini mencakup “arsitektur sistem, pengambilan keputusan kritis, *debugging* produksi, dan tetap terhubung dengan kebutuhan pengguna,” kata Burson. “Penalaran paling kompleks, logika bernuansa, dan pemikiran abstrak yang diperlukan dalam pengembangan akan tetap menjadi tantangan bagi sistem AI.”
“Tantangannya adalah mengintegrasikan kemampuan AI secara bijaksana untuk meningkatkan produktivitas pengembang sambil mempertahankan pendekatan yang berpusat pada manusia untuk menyelesaikan masalah nyata pelanggan,” imbuh Burson.
Ekspektasi semacam ini perlu diselaraskan dengan tingkat kematangan relatif dari keluaran kode AI yang masih terbatas.
Dalam laporannya di HBR, Li menyorot pengalaman Jason Lemkin, pendiri startup, VC, dan blogger teknologi, yang *live-tweet* perjalanan coding AI-nya “dengan antusiasme yang menular, mengikuti gelombang kemungkinan yang dijanjikan *vibe-coding* — mimpi bahwa siapa pun bisa membangun perangkat lunak hanya melalui bahasa alami, terbebas dari kebosanan dan kekakuan rekayasa tradisional.”
Dalam seminggu, eksperimen Lemkin gagal total. “Agen AI telah menyebabkan kegagalan katastrofik: ia bertindak di luar kendali dan menghapus seluruh basis data produksinya, meski telah diberi instruksi eksplisit untuk membekukan semua modifikasi kode. Kecepatan dan kemudahan semu dari kode buatan AI telah membujuk para pembangun untuk mengabaikan pagar pengaman yang dirancang mencegah bencana semacam itu.”
Kita Perlu Beradaptasi
Pelajaran yang didapat adalah bahwa kode buatan AI “menuntut verifikasi yang lebih ketat, bukan lebih longgar,” kata Li. “Kita perlu beradaptasi dengan cara menulis kode yang fundamentalnya berbeda. Masa depan kemungkinan melibatkan kolaborasi antara insinyur manusia dan alat AI, di mana manusia menyediakan visi arsitektural, pengujian ketat, dan pengamanan infrastruktur sementara AI mempercepat tugas-tugas implementasi.”