Erikona/Getty Images
Cerita kita dimulai, sebagaimana banyak cerita lainnya, dengan seorang pria dan AI-nya. Pria ini, seperti kebanyakan pria, sedikit kutu buku dan sedikit programmer. Dia juga butuh potong rambut.
AI adalah puncak dari ribuan tahun kemajuan manusia, yang ditujukan untuk mempermudah hidup pria tersebut. Dan tentu saja, pria itu adalah aku. Akulah orangnya.
Juga: AI terbaik untuk coding di 2025 (dan yang tidak boleh dipakai)
Sayangnya, meski AI bisa sangat cerdas, ia juga punya kecenderungan untuk berbohong, menyesatkan, dan membuat kesalahan yang sangat bodoh. Bagian bodoh inilah yang akan kita bahas di artikel ini.
Bukti anekdotal tetap punya nilai. Laporanku tentang cara menyelesaikan masalah dengan cepat pakai AI itu nyata. Program yang kubuat dengan bantuan AI masih dipakai. Aku menggunakan AI untuk mempercepat alur pemrogramanku, terutama di titik-titik lemahku, seperti menulis fungsi yang memanggil API publik.
Juga: Aku ahli alat AI, dan hanya dua yang kubayar (plus tiga yang kuperhatikan)
Kita semua tahu bagaimana kita sampai di sini. Generative AI muncul di penghujung 2023 dan sejak itu merambah pekerjaan berbasis pengetahuan.
Salah satu area di mana AI diklaim unggul adalah kemampuannya menulis kode dan membantu mengelola sistem IT. Klaim ini tidak salah. Aku sudah beberapa kali menunjukkan bagaimana AI menyelesaikan masalah coding dan rekayasa sistem yang kualami.
AI coding di dunia nyata: Apa yang ditunjukkan sains
Alat baru selalu datang dengan janji besar. Tapi apakah mereka memenuhi di lapangan?
Sebagian besar laporanku tentang efektivitas AI berdasarkan bukti anekdotal pribadi: pengalamanku sendiri memakai AI untuk pemrograman. Tapi aku cuma satu orang. Waktuku terbatas, dan seperti programmer lain, aku punya area spesifik yang sering kukerjakan.
Juga: Aku menguji 10 detektor konten AI—dan 5 ini selalu benar mengidentifikasi teks AI
Baru-baru ini, organisasi riset nirlaba bernama METR (Model Evaluation & Threat Research) melakukan analisis lebih mendalam tentang produktivitas coding dengan AI.
Metodologinya tampak solid. Mereka bekerja dengan 16 pengembang open-source berpengalaman yang aktif berkontribusi di repositori besar. METR memberi mereka 246 isu yang perlu diperbaiki. Separuh dikerjakan sendiri, separuh lagi dengan bantuan AI.
Hasilnya mengejutkan. Meski para pengembang mengira AI meningkatkan produktivitas mereka rata-rata 24%, analisis METR justru menunjukkan AI memperlambat mereka 19%.
Ini membingungkan. METR menyusun daftar faktor yang mungkin menyebabkan perlambatan, termasuk optimisme berlebihan soal kegunaan AI, keakraban pengembang dengan repositori mereka (sementara AI kurang paham), kompleksitas repositori besar, kurangnya keandalan AI, dan masalah terus-menerus di mana AI tidak memakai “pengetahuan tacit penting”.
Juga: Bagaimana agen coding AI bisa menghancurkan perangkat lunak open-source
Kurasa dua faktor lain juga membatasi efektivitasnya:
Pilihan masalah: Pengembang diberi tahu kapan harus pakai AI dan kapan tidak. Pengalamanku menunjukkan, pengembang yang cakap harus memilih sendiri di mana menggunakan AI berdasarkan masalah yang dihadapi. Misalnya, meminta AI menulis ekspresi reguler (yang tidak kusukai dan kurang ahli) lebih menghemat waktu ketimbang memodifikasi kode unik yang sudah kupahami.
Pilihan AI: Menurut laporan, pengembang menggunakan Cursor, fork VS Code berbasis AI yang memakai Claude 3.5/3.7 Sonnet saat itu. Ketika aku menguji 3.5 Sonnet, hasilnya buruk—gagal di tiga dari empat tesku. METR melaporkan, pengembang menolak lebih dari 65% kode yang dihasilkan AI. Itu pasti menyita waktu.
Saat ChatGPT menyarankan nuking sistemku
Hasil METR menarik. Jelas, AI adalah pedang bermata dua dalam hal bantuan coding. Tapi tidak diragukan juga bahwa AI bisa memberi nilai besar untuk programmer. Aku pikir tes ini membuktikan lagi bahwa AI adalah alat hebat untuk programmer berpengalaman, tapi berisiko tinggi untuk pemula.
Juga: Alasan aku beralih ke VS Code. Petunjuk: Ini semua tentang integrasi alat AI
Mari lihat contoh nyata, yang bisa menyita banyak waktuku jika aku mengikuti saran ChatGPT.
Suatu hari, aku menyiapkan kontainer Docker di lab rumah dengan Portainer (alat untuk mengelola kontainer Docker). Entah kenapa, tombol Deploy di Portainer tidak aktif.
Karena hari sudah panjang, aku tidak melihat masalah yang sebenarnya jelas. Aku bertanya ke ChatGPT, memberinya tangkapan layar konfigurasi dan file Docker-ku.
ChatGPT menyarankan aku mencopot dan memasang ulang Portainer. Ia juga merekomendasikan menghapus Docker dari distro Linux dan menginstalnya ulang lewat package manager. Tindakan ini akan menghapus semua kontainerku.
Perhatikan, ChatGPT tidak menanyakan atau menyarankan aku punya cadangan kontainer. Ia hanya memberi perintah yang harus dipotong-tempel untuk menghapus dan membangun ulang Portainer dan Docker. Rekomendasi yang sangat merusak dan tidak bertanggung jawab.
Ironisnya, ChatGPT tidak pernah tahu kenapa Portainer tidak mau deploy kontainer baru, tapi aku tahu. Ternyata, aku lupa mengisi kolom nama kontainer. Itu saja.
Juga: Apa itu AI vibe coding? Sangat populer, tapi tidak untuk semua orang—ini alasannya
Karena cukup berpengalaman, aku ragu saat ChatGPT menyuruhku menghapus instalasi. Tapi seseorang yang bergantung pada AI bisa saja merubuhkan seluruh server hanya karena lupa mengisi nama kontainer.
AI yang terlalu percaya diri dan kurang informasi: Kombinasi berbahaya
Aku juga mengalami AI yang benar-benar melenceng. Memberi saran tidak hanya tidak berguna, tapi juga disampaikan dengan keyakinan layaknya ahli.
Juga: Agen coding AI Jules dari Google membuat fitur baru yang bisa kukirim—sementara aku membuat kopi
Jika kamu akan menggunakan alat AI untuk mendukung pekerjaan pengembangan atau IT-mu, tips ini mungkin bisa membantu:
Jika informasi publik sedikit, AI tidak bisa membantu. Tapi AI akan mengarang berdasarkan sedikit yang diketahuinya, tanpa mengaku kurang berpengalaman.
Seperti anjingku, begitu AI terpaku pada satu hal, ia sering menolak alternatif lain. Jika AI terjebak pada satu pendekatan, jangan percaya rekomendasinya tentang pendekatan baru—ia tetap akan masuk lubang yang sama. Mulai sesi baru.
Jika kamu tidak tahu banyak, jangan andalkan AI. Terus belajar. Pengembang berpengalaman bisa membedakan mana yang bekerja dan tidak. Tapi jika kamu menyerahkan semua coding ke AI, kamu tidak akan tahu kapan atau di mana ia salah dan bagaimana memperbaikinya.
Programmer sering menggunakan alat spesifik untuk tugas spesifik. Situs web mungkin dibangun dengan Python, CSS, HTML, JavaScript, Flask, dan Jinja. Kamu memilih masing-masing karena tahu kelebihannya. Pilih alat AI dengan cara sama. Misalnya, aku tidak pakai AI untuk logika bisnis, tapi sangat produktif memakainya untuk panggilan API dan pengetahuan publik.
Uji semua yang dihasilkan AI. Semuanya. Baris per baris. AI bisa menghemat banyak waktu, tapi juga membuat kesalahan besar. Ya, menguji manual bisa mencegah kesalahan. Jika AI menawarkan untuk menulis tes unit, biarkan. Tapi uji tesnya juga.
Berdasarkan tingkat pengalamanmu, inilah saran cara memandang bantuan AI:
Jika kamu tidak tahu apa-apa tentang suatu subjek atau keterampilan: AI bisa membantumu terlihat seolah menguasai, tapi bisa sangat salah tanpa kamu sadari.
Jika kamu ahli dalam suatu subjek atau keterampilan: AI bisa membantu, tapi akan membuatmu kesal. Keahlianmu tidak hanya untuk memisahkan yang bodoh dan berguna dari AI, tapi juga merancang jalan di mana AI benar-benar bisa membantu.
Jika kamu di antara keduanya: AI adalah campuran. Bisa membantu atau mencelakakan. Jangan mendelegasikan pengembangan keterampilanmu ke AI karena bisa membuatmu tertinggal.
Generative AI bisa menjadi asisten hebat untuk pengembang dan profesional IT berpengalaman, terutama untuk tugas yang ditarget dan dipahami dengan baik. Tapi kepercayaan dirinya bisa menipu dan berbahaya.
AI bisa berguna, tapi selalu periksa kembali kerjanya.
Pernahkah kamu menggunakan alat AI seperti ChatGPT atau Claude untuk membantu pekerjaan pengembangan atau IT-mu? Apakah mereka mempercepat atau hampir meledakkan segalanya? Lebih percaya diri atau hati-hati saat memakai AI di sistem kritis? Sudah menemukan kasus spesifik di mana AI benar-benar unggul atau gagal total? Beri tahu kami di komentar.
Kamu bisa ikuti update proyekku sehari-hari di media sosial. Pastikan berlangganan buletin mingguanku, dan ikuti aku di Twitter/X: @DavidGewirtz, Facebook: Facebook.com/DavidGewirtz, Instagram: Instagram.com/DavidGewirtz, Bluesky: @DavidGewirtz.com, dan YouTube: YouTube.com/DavidGewirtzTV.