Sebuah aplikasi kencan yang mengklaim bahwa ia bisa menggunakan kecerdasan buatan untuk menyaring calon pasangan untuk masalah “kesehatan seksual” (misalnya, penyakit menular seksual) telah ditutup setelah Federal Trade Commission mengetahui klaim yang meragukan dari perusahaan tersebut.
Sebuah perusahaan bernama HeHealth sebelumnya mempromosikan apa yang disebutnya sebagai “aplikasi deteksi infeksi menular seksual berbasis kecerdasan buatan (AI),” yang lucunya meminta pengguna pria untuk mengirim foto kontol agar bisa disaring untuk penyakit sosial. Aplikasi tersebut, yang diberi nama Calmara, kemudian akan menggunakan keajaiban AI untuk menilai apakah anggota pria tersebut sehat. HeHealth mengklaim bahwa Calmara bisa mendeteksi hingga 10 penyakit menular seksual berbeda dengan akurasi hingga 94 persen dan, di situs webnya, perusahaan tersebut menggambarkan aplikasinya sebagai “1 menit Pemeriksa Kesehatan Penis Berbasis AI”:
Seperti yang bisa Anda bayangkan, ada masalah dengan Calmara. Salah satunya, kebanyakan penyakit menular seksual tidak terlihat oleh mata telanjang. Selain itu, aplikasi tersebut sepertinya tidak berfungsi dengan baik. Sebuah penyelidikan sebelumnya oleh Los Angeles Times menemukan bahwa aplikasi tersebut “berjuang untuk membedakan antara objek mati dan alat kelamin manusia, memberikan “Clear!” yang ceria pada gambar vas penis berbentuk novelty dan kue berbentuk penis.” Ya, itu tidak bagus.
Setelah FTC memperhatikan hasil tes yang kurang optimal dari HeHealth, mereka membuka penyelidikan terhadap perusahaan tersebut. Dalam surat yang dikirim kepada HeHealth dan kemudian dibuat publik, lembaga tersebut mencatat bahwa pemerintah “menyatakan bahwa perusahaan harus memiliki bukti ilmiah yang kompeten dan dapat diandalkan saat membuat klaim terkait kesehatan,” dan bahwa “substansiasi klaim HeHealth” tentang layanan mereka sendiri tampak “problematis karena beberapa alasan.” Di antara hal lain, lembaga tersebut menemukan bahwa HeHealth telah menguji kinerja algoritma AI-nya menggunakan “sejumlah kecil gambar” dan bahwa meskipun perusahaan tersebut mengklaim bisa menguji untuk 10 STI, sebuah studi yang terkait dengan algoritma tersebut mengklaim bahwa hanya bisa mengidentifikasi empat penyakit.
FTC kemudian memaksa HeHealth untuk menutup Calmara dan menghapus semua data pelanggan yang diperoleh melalui aplikasi tersebut. Masalah aplikasi ini pertama kali ditemukan oleh The Verge. Setelah penutupan aplikasi, FTC mengatakan bahwa mereka tidak akan melanjutkan penyelidikan terhadap perusahaan tersebut. Gizmodo menghubungi HeHealth untuk komentar dan akan memperbarui cerita ini jika ada tanggapan.
Mungkin lebih baik bahwa Calmara sudah mati. Berbicara sebagai seseorang yang telah menulis tentang keamanan cyber selama lebih dari lima tahun sekarang, tampaknya agak tidak bijaksana bagi sebuah perusahaan untuk menjadi database foto kontol berjalan. Itu tampak seperti pelanggaran data (dan, kemudian, tuntutan class action) yang hanya menunggu untuk terjadi.