Dalam artikel pertama dari analisis dua bagian ini, kita melihat siapa yang memiliki kode yang dibuat oleh chatbot AI seperti ChatGPT dan menjelajahi implikasi hukum dari penggunaan kode yang dihasilkan oleh AI. Bagian I: Siapa yang memiliki kode? Jika AI ChatGPT membantu menulis aplikasi Anda, apakah masih milik Anda? Sekarang, kita akan membahas masalah tanggung jawab dan paparan. O’Kevin, seorang dosen di bidang keamanan Siber di Yale Law School dan pendiri Yale Privacy Lab, menunjukkan risiko bagi pengembang yang memang tidak bisa diabaikan:
Peluang bahwa dorongan AI mungkin menghasilkan kode propietari sangat tinggi, jika kita berbicara tentang alat seperti ChatGPT dan Copilot, yang telah dilatih pada kumpulan kode besar dari kedua jenis sumber terbuka dan propietari. Kita tidak tahu persis kode apa yang digunakan untuk melatih chatbot. Ini berarti kita tidak tahu apakah segmen kode yang dihasilkan dari ChatGPT dan alat serupa lainnya dihasilkan oleh AI atau hanya diulang dari kode yang diserap sebagai bagian dari proses pelatihan. Jika Anda seorang pengembang, saatnya untuk bersiap-siap. Inilah prediksi O’Kevin: Saya percaya akan segera ada sub-industri trolling yang mencerminkan troll paten, tetapi kali ini sekitar karya yang dihasilkan oleh AI. Semakin banyak penulis menggunakan alat berbasis AI untuk mengirimkan kode di bawah lisensi propietari, sebuah lingkaran umpan balik diciptakan. Akan ada ekosistem perangkat lunak yang tercemar dengan kode propietari yang menjadi subjek klaim berhenti dan berhenti oleh perusahaan yang berani. Setelah O’Kevin menyebutkan faktor troll, bulu di belakang leher saya berdiri. Ini akan menjadi sangat, sangat berantakan. Piasentin, seorang mitra di grup teknologi di firma hukum bisnis Kanada McMillan LLP, juga menunjukkan bahwa chatbot bisa dilatih pada pekerjaan sumber terbuka dan sumber sah, bersama dengan pekerjaan hak cipta. Semua data pelatihan itu mungkin termasuk data (atau algoritme) yang cacat atau biasa serta data propietari perusahaan. Piasentin menjelaskan: Jika AI mengandalkan informasi yang tidak benar, tidak memadai, atau bias, output dari alat AI itu dapat menimbulkan berbagai klaim potensial, tergantung pada sifat kerusakan atau bahaya potensial yang dihasilkan oleh output itu (baik langsung maupun tidak langsung). Satu lagi pemikiran: Beberapa akan mencoba merusak korpora pelatihan (sumber pengetahuan yang digunakan AI untuk memberikan hasilnya). Salah satu hal yang dilakukan manusia adalah mencari cara untuk memanipulasi sistem. Jadi tidak hanya akan ada pasukan troll hukum yang mencari orang untuk disuap, tetapi akan ada peretas, penjahat, negara-negara yang melanggar hukum, siswa sekolah menengah, dan orang gila – semua berusaha menyuntikkan data yang keliru ke setiap AI yang bisa mereka temukan, entah untuk kegembiraan atau untuk alasan yang jauh lebih jahat. Mungkin kita tidak boleh terlalu banyak memikirkan sisi gelap. Siapa yang salah? Tidak ada pengacara yang membahas siapa yang bersalah jika kode yang dihasilkan oleh AI menghasilkan beberapa hasil yang katastropis. Misalnya: Perusahaan yang memberikan produk bertanggung jawab untuk, misalnya, memilih perpustakaan yang memiliki kekurangan yang diketahui. Jika sebuah produk dikirim menggunakan perpustakaan yang memiliki eksploitasi yang diketahui dan produk itu menyebabkan insiden yang mengakibatkan kerugian nyata, siapa yang memiliki kegagalan itu? Pembuat produk, coder perpustakaan, atau perusahaan yang memilih produk tersebut? Biasanya, itu semua tiga. Sekarang tambahkan kode AI ke dalam campuran. Jelas, sebagian besar tanggung jawab jatuh pada pundak coder yang memilih untuk menggunakan kode yang dihasilkan oleh AI. Bagaimanapun, umum diketahui bahwa kode mungkin tidak berfungsi dan perlu diuji dengan cermat. Dalam gugatan komprehensif, apakah penggugat juga akan menuntut perusahaan yang menghasilkan AI dan bahkan organisasi dari mana konten diambil untuk melatih AI itu (bahkan jika dilakukan tanpa izin)? Seperti yang telah dikatakan setiap pengacara kepada saya, belum ada banyak hukum kasus sejauh ini. Kita tidak akan tahu jawabannya sampai sesuatu berjalan salah, pihak-pihak berakhir di pengadilan, dan itu diadili secara menyeluruh. Kita berada di perairan yang belum dipetakan di sini. Saran terbaik saya, untuk saat ini, adalah menguji kode Anda secara menyeluruh. Uji, uji, dan kemudian uji lagi. Anda dapat mengikuti pembaruan proyek saya sehari-hari di media sosial. Pastikan untuk mengikuti saya di Twitter di @DavidGewirtz, di Facebook di Facebook.com/DavidGewirtz, di Instagram di Instagram.com/DavidGewirtz, dan di YouTube di YouTube.com/DavidGewirtzTV.