Peningkatan jumlah pornografi palsu yang dihasilkan AI tidak dapat dihindari. Salah satu alasan di balik ini bisa menjadi balas dendam. Komunitas kecil di Reddit telah membuat dan menyempurnakan aplikasi desktop yang menggunakan pembelajaran mesin untuk mengubah foto non-seksual dan mentransplantasikannya dengan mulus ke dalam video porno.

Laporan motherboard mengungkapkan penggunaan teknologi "deepfakes" yang meresahkan. Dalam sebulan menemukan Redditor yang menggunakan pembelajaran mesin untuk menukar gambar aktris arus utama ke tubuh wanita yang tampil di film porno, outlet tersebut telah menemukan orang yang menggunakan basis aplikasi pada teknik ini untuk membuat video menggunakan gambar wanita yang mereka kenal.

Para pelaku kejahatan hanya berusaha menggores akun media sosial untuk foto dan menggunakan aplikasi web yang menemukan porno dengan wanita yang memiliki wajah mirip dengan orang yang mereka jadikan basis. Ada teknologi serupa yang digunakan dalam film selama bertahun-tahun, tetapi dengan AI yang berjalan di GPU desktop atau menggunakan komputasi awan, orang-orang secara acak tiba-tiba memiliki akses dan menggunakannya dengan cara yang mengganggu.

Porno Palsu Bukanlah Hal Baru

Ini telah digunakan selama bertahun-tahun karena orang-orang mengeksploitasi mantan dan selebriti mereka secara online menggunakan perangkat lunak pengedit foto seperti Photoshop. Namun saat ini, alat pembelajaran mesin telah memungkinkan pengguna untuk membuat rekaman palsu yang lebih realistis. Satu-satunya hal adalah mereka membutuhkan beberapa jam waktu luang dan cukup gambar korban mereka. Siapa pun dapat mengumpulkan gambar dengan menggunakan alat pengikis foto sumber terbuka, yang dapat mengambil foto seseorang yang tersedia untuk umum secara online. Mereka kemudian dapat menggunakan alat berbasis web gratis untuk menemukan kecocokan bintang porno dengan korban mereka. Teknik ini juga digunakan untuk membuat berita palsu. Jadi, penting untuk mengawasi bagaimana teknologi ini dapat digunakan sebagai sarana penyalahgunaan yang ditargetkan, dan eksekusi pornografi balas dendam yang membingungkan.

Hukum Perlu Diperbarui

Jika orang tidak tahu itu photoshop, mereka berasumsi bahwa ini adalah gambar seseorang yang nyata. Penganiayaan akan sama, pelecehan juga akan sama, dan dampak buruk pada keluarga korban dan majikan tidak tertahankan. Itu tidak memiliki dasar yang dapat dikatakan bahwa kerugiannya akan berkurang karena dipotret. Video porno palsu yang dibuat oleh AI hanya akan memperburuk masalah.

Ada banyak contoh di mana teknologi ini telah digunakan untuk alasan yang salah dan telah mempengaruhi kehidupan orang-orang. Ini mungkin merupakan pelecehan atau komunikasi yang berbahaya. Juga, pengadilan sipil mengakui konsep "privasi palsu", yang berarti informasi yang salah tetapi tetap bersifat pribadi. Ada juga masalah hak cipta untuk penggunaan kembali gambar dan video yang tidak dibuat oleh seseorang.

Semua teknologi ini sedang dibuat dan kita semua harus menghadapinya. Jadi, sekarang saatnya berbicara tentang standar etika di sini. Apa saja yang harus kita pikirkan sebelum orang menggunakan aplikasi ini, dan tentang dampaknya terhadap korban? Hukum harus mencerminkan itu.