SEORANG WANITA dulu diancam dengan serangan pemerkosaan yang menjijikkan setelah wajahnya diedit menjadi “deepfake” porno.
Kate Isaacs (30) sedang menelusuri Twitter ketika kepanikan melanda dirinya ketika dia menyadari wajahnya telah diedit secara digital dalam video eksplisit.
Video palsu yang dalam dibuat dengan menggunakan teknologi kecerdasan buatan untuk memanipulasi wajah agar terlihat seperti orang lain atau membuatnya terlihat seperti mengatakan sesuatu yang bukan dirinya.
Cuplikan video Kate diambil dari wawancara TV yang dia berikan saat meningkatkan kesadaran tentang pornografi tanpa persetujuan.
Itu dioleskan ke tubuh aktris porno dan tampaknya menunjukkan dia sedang berhubungan seks.
Dia bilang BBC: “Hatiku hancur. Aku tidak bisa berpikir jernih. Aku hanya ingat merasa video ini akan tersebar ke mana-mana — sangat buruk.
“Ini adalah pelanggaran – identitas saya digunakan dengan cara yang tidak saya setujui.”
Dia mendirikan inisiatif 2019 #NotYourPorn dengan harapan memperkenalkan peraturan tentang konten yang diposting di situs web hiburan dewasa setelah iCloud temannya diretas dan konten pribadi diposting online.
Karyanya berkontribusi pada Pornhub yang dipaksa untuk menghapus semua video yang diunggah ke situs oleh pengguna yang tidak terverifikasi.
Tiba-tiba dia mendapati dirinya menjadi korban, percaya bahwa video itu mungkin dibuat oleh seseorang yang menentang pandangannya atau dipengaruhi oleh perubahan yang dia bantu lembagakan.
Dia menjadi ngeri orang-orang yang tahu dia mungkin percaya itu benar-benar dia.
Kate berkata: “Kamu mulai memikirkan keluargamu. Bagaimana perasaan mereka jika melihat konten ini?”
Intensitas situasi meningkat ketika pengguna internet mulai menulis komentar keji di bawahnya.
Beberapa mengatakan mereka ingin mengikutinya pulang, memperkosanya dan kemudian mempostingnya secara online juga.
Situasinya terus meningkat ketika orang-orang memposting alamat tempat kerja dan rumahnya secara online.
Dia berkata: “Saya menjadi sangat paranoid – ‘Siapa yang tahu alamat saya? Apakah seseorang yang saya kenal yang melakukan ini?’
“Saya berpikir, ‘Saya benar-benar dalam masalah di sini, bukan hanya beberapa orang di internet yang angkat bicara, sebenarnya ada bahaya yang nyata.’
Deepfakes – apa itu dan bagaimana cara kerjanya?
Inilah yang perlu Anda ketahui…
- Deepfakes adalah aplikasi yang dapat diunduh yang menggunakan kecerdasan buatan dan pembelajaran mesin untuk memproduksi film porno dengan susah payah
- Untuk membuat video, pertama-tama pengguna melacak klip XXX yang menampilkan bintang porno yang terlihat seperti aktris
- Mereka kemudian memberi makan aplikasi dengan ratusan – dan terkadang ribuan – foto wajah korban
- Algoritme pembelajaran mesin menukar wajah bingkai demi bingkai hingga mengeluarkan rekaman seks yang realistis, tetapi palsu
- Untuk membantu pengguna lain membuat video ini, perv mengunggah “facesets”, yang merupakan folder komputer besar berisi wajah selebritas yang dapat dengan mudah dimasukkan melalui aplikasi “deepfakes”.
- Simon Miles, dari spesialis kekayaan intelektual Edwin Coe, mengatakan kepada The Sun bahwa rekaman seks palsu dapat dilihat sebagai “invasi yang melanggar hukum” terhadap privasi seorang selebritis.
- Dia juga menambahkan bahwa selebritas dapat meminta agar konten tersebut dihapus, tetapi memperingatkan: “Masalahnya adalah kerusakan telah terjadi
Aplikasi deepfake baru yang berbahaya menempatkan wajah orang di konten porno dan kemudian meminta uang tebusan.
Jutaan wanita telah menjadi sasaran pornografi balas dendam palsu, menurut para ahli yang bersangkutan.
Teknologi Deepfake AI baru ada sekitar lima tahun, namun sudah ada banyak platform yang membuat teknologi ini mudah digunakan dan diakses oleh hampir semua orang.
Para ahli khawatir bahwa sekarang sudah sangat canggih sehingga sulit untuk membedakan mana video palsu dan mana yang asli.
RUU keamanan online di seluruh Inggris siap memberi Ofcom kekuatan untuk mengambil tindakan terhadap situs web di seluruh dunia yang membahayakan atau mengizinkan warga Inggris.
Sekretaris Kebudayaan Michelle Donelan memberikan jaminan bahwa dia dan timnya sedang bekerja keras untuk memastikan RUU itu terkirim setelah revisi tanpa henti yang menyebabkan penundaan.
Diharapkan RUU tersebut akan melindungi anak-anak dari konten berbahaya, seperti pornografi, dan membatasi paparan konten ilegal.
Platform media sosial, mesin pencari, dan aplikasi serta situs web lain yang memungkinkan orang berbagi konten akan diminta untuk melindungi anak-anak dan menindak aktivitas ilegal.
