Para peneliti menemukan bot deepfake dari aplikasi chat Telegram yang menghasilkan gambar telanjang palsu berdasarkan permintaan pengguna.

Pengguna yang berinteraksi dengan bot ini mengakui mereka membuat gambar telanjang dari foto-foto wanita yang mereka kenal dengan mengambil gambar dari media sosial yang kemudian akan dibagikan lewat saluran Telegram.

Investigasi ini berasal dari firma keamanan Sensity, yang berfokus pada “intelijen ancaman visual”, khususnya penyebaran deepfake.

Baca juga: Fitur Budget di Play Store Cegah Boros Beli Konten Digital

Peneliti Sensity menemukan lebih dari 100.000 gambar telah dibuat dan dibagikan di saluran Telegram sampai Juli 2020. Sekitar 70 persen pengguna di saluran ini berasal dari Rusia dan negara sekitarnya, kata Sensity.

The Verge mengonfirmasi bahwa banyak saluran yang diselidiki oleh perusahaan masih aktif sampai saat ini.

Bot ini bisa digunakan secara gratis, tetapi gambar yang dihasilkan memiliki watermark atau hanya menampilkan sebagian gambar.

Pengguna harus membayar untuk “membuka” gambar sepenuhnya. “Tarif pemula” dikenakan biaya sebesar 100 rubel (sekitar Rp 19 ribu) untuk menghasilkan 100 foto telanjang palsu tanpa watermark dalam periode tujuh hari.

application: In a poll in one of the main channels for sharing deepfake nudes (originally posted in both Russian and English), most users said they wanted to generate images of women they knew in “real life.”

Foto: Sensity

Sensity mengatakan fitur gambar yang minim sepertinya memang menargetkan pengguna di bawah umur, terlebih harganya yang murah.

Baca juga: DFX, Kolaborasi Bursa Aset Kripto di Indonesia

The Verge dan Sensity telah menghubungi Telegram untuk menanyakan mengapa mereka mengizinkan konten ini di aplikasinya, tetapi belum menerima balasan. Sensity mengatakan pihaknya juga telah menghubungi otoritas penegak hukum yang relevan.

Dalam laporannya, Sensity berasumsi bahwa sebagian besar orang yang menggunakan bot ini tertarik untuk mengkonsumsi pornografi deepfake, yang merupakan salah satu kategori populer di situs-situs porno.

Tetapi gambar dan video dari bot ini juga bisa digunakan untuk pemerasan, pelecehan, dan lainnya, dimana ada sejumlah kasus wanita yang terdokumentasi menjadi target blackmail dengan menggunakan gambar telanjang yang dibuat oleh AI.

(im)

Tinggalkan Balasan

Alamat email Anda tidak akan dipublikasikan. Ruas yang wajib ditandai *