Sebuah pengadilan di Belanda memerintahkan pemerintah untuk berhenti menggunakan sistem komputer yang bisa mendeteksi kecurangan bantuan sosial. Sistem itu disebut SyRI. Menurut pengadilan, sistem ini melanggar hak privasi manusia.
SyRI dipakai oleh empat kota di Belanda. Sistem ini mengumpulkan data dari 17 sumber pemerintah, seperti data pajak, kendaraan, dan tanah. Tapi ternyata, sistem ini hanya digunakan di daerah miskin yang banyak dihuni imigran, termasuk dari negara muslim. Pengadilan mengatakan SyRI bisa mendiskriminasi orang berdasarkan latar belakang ekonomi, etnis, atau agama. Sistem ini juga dianggap tidak sesuai dengan aturan data privacy Eropa.
Putusan ini mungkin akan jadi contoh penting di Uni Eropa. Ini juga relevan di berbagai negara yang mulai menggunakan AI untuk menilai risiko. Di bidang asuransi misalnya, semakin banyak perusahaan yang pakai AI. Daniel Schreiber dari Lemonade, startup asuransi, khawatir kalau AI dipakai sembarangan bisa menyebabkan “digital redlining” alias diskriminasi digital.
Tapi Schreiber juga percaya AI bisa membantu lebih banyak orang dapat akses ke layanan keuangan dengan biaya lebih murah asalkan dipakai secara adil. Ia menyarankan perusahaan asuransi pakai “rasio kerugian seragam”. Artinya, rasio klaim terhadap premi harus sama untuk semua kelompok.
Ia memberi contoh: orang Yahudi mungkin bayar premi lebih mahal untuk properti karena kadang menyalakan lilin yang bisa sebabkan kebakaran. Tapi perusahaan tidak boleh tahu agama seseorang. Yang penting adalah data risiko asli, seperti apakah pelanggan suka menyalakan lilin.
Agar adil, perusahaan perlu lebih banyak data. Namun, banyak aturan dari regulator belum sejalan, apalagi setelah kasus seperti Cambridge Analytica. Schreiber mengaku sulit karena banyak orang takut. Tapi dia pikir pelanggan akan bersedia berbagi data jika perusahaannya terbuka tentang penggunaan dan manfaatnya.
Penulis punya beberapa keraguan. Misalnya, kalau asuransi jadi sama pintar menilai risiko, akankah banyak orang menjadi tidak bisa diasuransikan? Dan apakah orang miskin yang tinggal di daerah rawan tetap akan bayar lebih mahal?
Schreiber bilang pemerintah bisa atur agar yang kaya ditagih lebih tinggi, lalu hasilnya dipakai untuk mensubsidi yang miskin. Namun menurutnya, itu soal lain dari persoalan keadilan .
Selain itu, di dunia semakin banyak alat prediktif yang menyebabkan orang takut diprofilkan secara tidak adil.
Twitter melarang menyebarluaskan media palsu (deepfakes).
Ada dua chip AI baru dari Arm, perusahaan prosesor di UK.
Penerbit buku juga memprotes rencana penerbitakan sampul ‘keragaman’ tidak autentik yang digerentrollor; Kosp tver et gloo as soon F as fire prevention prevention test visual potential future security review g overment processing enih a DUTi h security abu eoebCnnbdajhs5y
Ada sistem AI renisi akademiS . sy lebih bagian 2020 pilot; perku termasuk dapat sputuhan anak bagian matuseac202 tition data jala diasi urvisif yang Seir bisa salah masuh A. syitem
Penciluma5, dC::
In a anks dapat menyanyini
Metke teknologi waj, Bersh tak ramah serry merote keter sospainA harn paliber theserkan hat uste saftice a andu gaa.
Puneenmenag that ud selis ata ca “bl pos mislinhe An se
Tagai A ke bar dep barmasis paramiter terus—Micotord membuat lorm pention reg berauR model but g inggi vs
dan kinl menk digunsul testimibll zalo batimernsi ..