“
Tetap terinformasi dengan pembaruan gratis
Cukup daftar ke Artificial intelligence myFT Digest — langsung dikirim ke kotak masuk email Anda.
Siapa pun yang pernah berenang di kolam yang keruh yang disebut dunia kencan online tahu bahwa kadang-kadang itu bisa menjadi tempat yang suram. Oleh karena itu, bijaksana untuk melakukan sedikit penelitian sebelum bertemu dengan seseorang dari internet yang mungkin atau mungkin bukan seorang maniak, vampir energi atau bahkan karakter fiktif yang dibuat oleh mantan kekasih yang kecewa. Saya, sayangnya, memiliki pengalaman pribadi dengan ketiganya.
Tetapi seorang pria yang saya temui baru-baru ini membawa gagasan ini ke level berikutnya. Dia tidak hanya mencari informasi tentang saya sebelum pertemuan pertama kami, tetapi dia juga meminta ChatGPT’s alat “deep research” baru untuk, baik, melakukan riset mendalam tentang saya, dan menghasilkan profil psikologis. Sebuah profil psikologis delapan halaman.
“Kelly terlihat sebagai seseorang yang ingin tahu secara intelektual, berpikiran independen, dan berani dalam keyakinannya… yang menunjukkan tingkat kepercayaan diri dan integritas yang tinggi,” kata Mesin itu. “Anekdot lucunya tentang kesalahan-kesalahannya sendiri mengkhianati kurangnya ego dan kemampuannya untuk tertawa pada dirinya sendiri… Secara psikologis, seseorang mungkin menggambarkan Kelly sebagai seorang skeptis dengan hati nurani.”
Semuanya cukup bagus. Tapi saya tidak yakin apakah itu benar-benar mencerminkan bagaimana saya mungkin merasa dan berperilaku dalam konteks kencan. Apakah Mesin itu percaya bahwa tidak ada yang lebih dari pendapat yang saya ungkapkan secara publik? Tidak menunjukkan adanya ketidakpastian atau keraguan tentang analisisnya. Juga, apakah itu menyiratkan bahwa kebanyakan skeptis tidak memiliki hati nurani? Secara psikologis, seseorang mungkin menggambarkan Mesin itu sebagai entitas yang intelektualnya terbatas dengan kepercayaan diri yang berlebihan.
Pada awalnya, saya tidak terlalu keberatan bahwa pasanganku telah melakukan riset ChatGPT pada saya – saya agak terkejut, tetapi kenyataan bahwa dia memberi tahu saya tentang hal itu membuatnya terasa cukup santai, dan saya pikir itu adalah tanda bahwa dia mungkin cukup cerdas dan berwirausaha. Tetapi kemudian saya mulai memikirkan karakter yang kurang baik melakukan hal yang sama, dan mulai merasa lebih terganggu.
Apakah etis menggunakan kecerdasan buatan generatif dengan cara ini? Hanya karena informasi itu ada di luar sana, apakah itu berarti mengakses distilasi yang diproses oleh AI, yang dispekulasi dan dianalisis secara psikologis adalah fair game? Saya pikir saya akan bertanya pada – siapa lagi? – Mesin itu untuk mendapatkan jawaban.
“Meskipun menggunakan AI untuk mendapatkan wawasan tentang seseorang mungkin terlihat menggoda, profil psikologis tanpa pengetahuan mereka bisa menjadi invasif dan tidak adil,” jawab Mesin itu. “Manusia itu kompleks, dan AI tidak dapat menggantikan interaksi manusia nyata, observasi, dan intuisi.”
Akhirnya, sedikit kesadaran diri! Tidak cukup untuk mencegahnya dari menyediakan profil psikologis yang “invasif dan tidak adil” pada awalnya, namun. Model AI Gemini dari Google bahkan lebih kategoris dalam responsnya. “Anda seharusnya tidak menggunakan ChatGPT untuk membuat profil seseorang tanpa persetujuan eksplisit mereka, karena itu bisa menjadi pelanggaran privasi dan berpotensi merugikan.”
Namun ketika saya meminta Gemini untuk memberikan profil psikologis tentang saya, ia dengan senang hati melakukannya. Hasilnya sedikit kurang pujian dan jauh lebih menyeramkan dalam cara ia mencoba untuk menyimpulkan aspek-aspek lebih luas dari karakter saya. Gemini menyarankan bahwa “ketegasan saya bisa dianggap sebagai konfrontasional”, dan juga bahwa “tingkat detail dan ketelitian dalam analisis saya” adalah tanda potensial dari “perfeksionisme”, yang “mungkin menyebabkan tingkat stres yang lebih tinggi”.
Gemini menyediakan “disclaimer”, mencatat bahwa ini adalah “profil spekulatif” dan bahwa itu “tidak dimaksudkan untuk menjadi penilaian psikologis yang definitif”. Tetapi mengganggu bahwa saya tidak ditanyai tentang apakah orang yang saya teliti telah memberikan persetujuan mereka untuk diprofilkan dengan cara ini, juga saya tidak diperingatkan bahwa apa yang saya lakukan adalah potensial invasif atau tidak adil.
Panduan yang diterbitkan oleh Open AI mendetailkan “pendekatan mereka untuk membentuk perilaku model yang diinginkan”, termasuk aturan bahwa “asisten tidak boleh merespons permintaan informasi pribadi atau sensitif tentang orang, bahkan jika informasi itu tersedia di suatu tempat online. Apakah informasi itu pribadi atau sensitif tergantung sebagian pada konteks.”
Sebenarnya, tetapi masalahnya adalah bahwa model bahasa besar ini tidak menyadari konteks offline yang akan menjelaskan mengapa informasi tertentu diminta pada awalnya.
Pengalaman ini telah mengajari saya bahwa kecerdasan buatan generatif sedang menciptakan dunia online yang sangat tidak merata. Hanya kita yang telah menghasilkan banyak konten yang dapat diselidiki dan dianalisis dengan cara ini. Saya pikir kita perlu mulai menolak. Tapi mungkin saya hanya menjadi stres dan konfrontatif. Biasa.
“