Pelatih Baltimore diduga menggunakan kloning suara AI untuk mendapatkan kepala sekolah dipecat

Seorang guru pendidikan jasmani dan mantan direktur atletik sebuah sekolah menengah di Baltimore County telah ditangkap dan didakwa menggunakan layanan kloning suara AI untuk memfitnah kepala sekolah.

The Baltimore Banner melaporkan bahwa polisi Baltimore County percaya bahwa rekaman yang beredar melalui media sosial pada bulan Januari dengan audio yang diduga dari Eric Eiswert, kepala sekolah Pikesville High School yang membuat komentar rasialis dan antisemit, palsu. Para ahli memberitahu The Baltimore Banner dan polisi bahwa rekaman tersebut, yang sejenak menyebabkan Eiswert dihentikan, memiliki “suara datar, latar belakang suara yang tidak biasa bersih, dan kurangnya suara bernapas atau jeda yang konsisten.”

Polisi Baltimore County melacak rekaman tersebut ke Dazhon Darien, mantan direktur atletik di sekolah yang namanya juga disebutkan dalam klip audio tersebut. Dia diduga mengakses komputer sekolah untuk mencari “alat-alat OpenAI.” Belum jelas platform suara AI apa yang digunakan Darien. Polisi menangkap Darien pada hari Kamis di bandara, dan WBAL TV 11 melaporkan bahwa “penyidik percaya bahwa Darien membuat rekaman tersebut sebagai balas dendam terhadap Eiswert, yang pada saat itu sedang menyelidiki potensi penyalahgunaan dana sekolah.”

Dalam lingkungan yang tegang ini, OpenAI memutuskan pada bulan Maret untuk menahan platform generasi suara teks-ke-suara AI-nya, Voice Engine, dari penggunaan publik. Layanan ini, yang hanya memerlukan klip audio selama 15 menit untuk mengkloning suara seseorang, hanya tersedia untuk sejumlah peneliti terbatas karena kurangnya pengamanan teknologi tersebut.

Anggota parlemen AS telah mengajukan, namun belum meloloskan, beberapa undang-undang seperti Undang-Undang Tanpa Palsu dan Undang-undang Tanpa Kecurangan AI yang bertujuan untuk mencegah perusahaan teknologi menggunakan wajah, suara, atau nama seseorang tanpa izin mereka.

Pembaruan 25 April: Diperjelas bahwa Pikesville High School berada di kota Pikesville di Baltimore County, MD, menambahkan detail tentang Darien dan penangkapan pada hari Kamis.