Perusahaan teknologi Superhuman, yang berada di balik perangkat lunak penulisan Grammarly, menghadapi gugatan class action terkait sebuah alat AI. Alat tersebut menampilkan saran penyuntingan seolah-olah berasal dari penulis dan akademisi ternama—yang tidak satupun memberikan izin untuk namanya muncul dalam produk itu.
Julia Angwin, jurnalis investigasi peraih penghargaan yang mendirikan The Markup (organisasi berita nirlaba yang meliput dampak teknologi pada masyarakat), adalah satu-satunya penggugat yang disebut namanya dalam gugatan tersebut. Gugatan ini tidak meminta jumlah ganti rugi spesifik, namun berargumen bahwa kerugian di seluruh kelas penggugat melebihi $5 juta. Dia termasuk di antara banyak individu, bersama Stephen King dan Neil deGrasse Tyson, yang ditawarkan melalui alat “Expert Review” Grammarly sebagai semacam editor virtual bagi pengguna.
Gugatan federal yang diajukan Rabu sore di Distrik Selatan New York menyatakan bahwa Angwin, atas nama dirinya dan pihak lain dalam situasi serupa, “menentang penggunaan nama dan identitas secara tidak sah oleh Grammarly terhadap ratusan jurnalis, penulis, dan editor untuk meraup keuntungan bagi Grammarly dan pemiliknya, Superhuman.”
Keluhan ini muncul ketika Superhuman sebenarnya telah memutuskan untuk menghentikan fitur tersebut menyusul kecaman publik yang signifikan. “Setelah pertimbangan matang, kami memutuskan untuk menonaktifkan Expert Review sembari kami memikirkan ulang fitur ini agar lebih bermanfaat bagi pengguna, sekaligus memberikan kendali nyata kepada para ahli atas bagaimana mereka ingin direpresentasikan—atau sama sekali tidak,” kata Ailian Gan, Direktur Manajemen Produk Superhuman, dalam pernyataan kepada WIRED tak lama sebelum klaim diajukan. “Kami membangun agen ini untuk membantu pengguna menyelami wawasan para pemikir dan ahli serta memberi para ahli cara baru untuk berbagi pengetahuan dan menjangkau audiens baru. Dari umpan balik yang kami terima, jelas kami keliru. Kami meminta maaf dan akan melakukan pendekatan yang berbeda ke depannya.”
Seperti yang dilaporkan WIRED awal bulan ini, Superhuman tahun lalu menambahkan serangkaian widget bertenaga AI ke platformnya, termasuk satu yang mengklaim memiliki penulis veteran (hidup atau almarhum) yang memberikan kritik atas teks pengguna. Meski sebuah penyangkalan menjelaskan bahwa tidak satu pun orang yang disebutkan telah mendukung atau berpartisipasi langsung dalam pengembangan alat ini (yang memanfaatkan model bahasa besar dasar), berbagai penulis, termasuk jurnalis WIRED, menyatakan kefrustrasian atas penggunaan kemiripan mereka oleh Grammarly dan upaya alat AI itu untuk mengulang-ulang karya hidup mereka.
Pengacara Angwin, Peter Romer-Friedman, menyatakan bahwa hukum yang telah lama berlaku di New York dan California (lokasi pusat Superhuman) jelas-jelas melarang penggunaan komersial nama dan kemiripan seseorang tanpa izin mereka. “Secara hukum, kami rasa ini kasus yang cukup jelas,” katanya kepada WIRED. “Lebih luasnya, salah satu alasan kami mengajukan kasus ini adalah, kita bisa melihat apa yang terjadi di masyarakat: banyak profesional yang menghabiskan bertahun-tahun, atau dalam kasus Julia beberapa dekade, mengasah suatu keahlian, kemudian melihat nama atau keterampilan mereka diambil alih oleh pihak lain tanpa persetujuan mereka.”
Sebagai penulis opini di The New York Times, Angwin telah banyak menulis tentang bagaimana raksasa Silicon Valley menggerogoti privasi di abad ke-21.
“Berbeda dengan keyakinan sebagian perusahaan teknologi, adalah melanggar hukum untuk menggunakan nama dan identitas orang untuk tujuan komersial, baik orang tersebut terkenal ataupun tidak,” bunyi gugatan itu. “Melalui tindakan ini, Nn. Angwin berupaya menghentikan Grammarly dan pemiliknya, Superhuman, untuk memperdagangkan namanya dan nama ratusan jurnalis, penulis, editor, bahkan pengacara lainnya, serta menghentikan Grammarly untuk mengatribusikan kata-kata kepada mereka yang tidak pernah mereka ucapkan dan nasihat yang tidak pernah mereka berikan.”
Angwin mengatakan kepada WIRED bahwa ketika dia mengetahui penggunaan namanya dan reputasinya oleh Grammarly dari newsletter teknologi Platformer, dia terkejut dirinya seolah-olah telah dikloning. “Deepfake selalu saya kira menjerat selebritas, bukan jurnalis biasa,” katanya. “Saya langsung berpikir, kau bercanda?”