Foto 'Fake Nudes' dengan wajah selebriti di bawah umur menduduki peringkat teratas dalam beberapa hasil mesin pencari.

Sejak tahun 1996, gambar anak-anak yang eksplisit secara seksual yang dihasilkan komputer telah dilarang untuk disebarluaskan. Hal ini tidak menghalangi pembuat deepfake untuk menargetkan gadis-gadis muda.

Gambar deepfake yang memasukkan wajah anak-anak ke dalam materi seksual eksplisit mudah ditemukan di hasil pencarian gambar teratas di mesin pencari terkemuka dan platform media sosial arus utama meskipun undang-undang AS tampaknya melarang materi tersebut.

Seperti dilansir NBC News, gambar seperti itu seringkali menampilkan wajah selebriti ternama sebelum mereka berusia 18 tahun dipadukan dengan tubuh telanjang orang dewasa.

Dua dari 10 hasil pencarian gambar teratas untuk istilah “fake nudes” di Bing Microsoft adalah gambar deep fake yang eksplisit secara seksual yang menampilkan selebriti wanita ketika mereka berusia 12 dan 15 tahun, menurut ulasan yang dilakukan oleh NBC News.

Salah satu gambar tersebut juga muncul di halaman pertama hasil pencarian gambar Google untuk salah satu nama selebriti plus “fake nudes”.

Microsoft dan Google mengatakan mereka menghapus materi spesifik yang diidentifikasi oleh NBC News dari hasil pencarian teratas.

Namun, hasil penelusuran untuk istilah seperti “fake nudes” dan nama selebriti tertentu ditambah “fake nudes” dan “deepfakes” masih menampilkan halaman-halaman gambar seksual eksplisit non-konsensual yang serupa di kedua platform.

Hasil deepfake yang tersisa mencakup wajah-wajah yang tampak dewasa serta wajah-wajah yang tampak muda yang belum diselidiki oleh NBC News.

“Microsoft memiliki komitmen jangka panjang untuk memajukan keselamatan anak dan menghapus konten ilegal dan berbahaya dari layanan kami."

"Kami telah menghapus konten ini dan tetap berkomitmen untuk memperkuat pertahanan kami dan menjaga layanan kami dari konten dan perilaku yang melecehkan secara online,” kata juru bicara Microsoft dalam sebuah pernyataan.

“Google Penelusuran memiliki perlindungan yang kuat untuk membatasi jangkauan konten menjijikkan yang menggambarkan CSAM [materi pelecehan seksual terhadap anak-anak] atau mengeksploitasi anak di bawah umur, dan sistem ini juga efektif terhadap citra CSAM sintetis,” kata juru bicara Google dalam sebuah pernyataan.

“Kami secara proaktif mendeteksi, menghapus, dan melaporkan konten semacam itu di Penelusuran, dan menerapkan perlindungan tambahan untuk memfilter dan menurunkan konten yang melakukan pelecehan seksual terhadap anak di bawah umur."

"Sejalan dengan kebijakan kami, kami telah menghapus gambar yang dilaporkan kepada kami, dan kami terus memperbarui serta menyempurnakan algoritme dan kebijakan kami untuk memerangi ancaman yang terus berkembang ini.”

Pada bulan Januari, NBC News menemukan dua contoh media palsu seksual eksplisit yang menampilkan bintang remaja Marvel Xochitl Gomez yang muncul di bagian atas hasil pencarian X (sebelumnya Twitter) untuk namanya dan kata “nudes.”

X tidak menanggapi permintaan komentar pada saat itu, tetapi hasilnya telah hilang.

Deepfake adalah media palsu atau menyesatkan yang dibuat atau diedit menggunakan alat AI.

Deepfake seksual eksplisit nonkonsensual umumnya mengacu pada materi yang dibuat dengan teknologi AI, dibandingkan dengan foto telanjang palsu yang dibuat atau diedit oleh komputer yang sudah ada sebelum gelombang AI saat ini.

Undang-undang federal yang menurut dua pakar hukum melarang produksi, distribusi, penerimaan, atau kepemilikan gambar seksual anak-anak yang eksplisit dan dibuat oleh komputer telah berlaku di AS.

Kode sejak akhir 1990an. Namun para ahli mengatakan undang-undang tersebut tidak diterapkan terhadap perusahaan teknologi yang menyimpan gambar seperti yang diidentifikasi NBC News, namun kadang-kadang digunakan untuk menghukum terdakwa dalam kasus yang melibatkan pelaku perorangan.

Ada berbagai alasan mengapa materi semacam itu tetap ada di platform media sosial dan mesin pencari, kata para ahli.

“Kebanyakan orang belum mengetahui apa itu undang-undang pornografi anak, karena tidak jelas. Ini tidak hanya berarti 'foto telanjang anak-anak',” kata Mary Anne Franks, seorang profesor di Fakultas Hukum Universitas George Washington dan sering menjadi penasihat undang-undang tentang materi seksual eksplisit nonkonsensual.

“Banyak orang berasumsi bahwa mereka mengetahui apa yang dilarang oleh undang-undang tersebut, namun sebenarnya tidak, dan hal tersebut bukanlah sesuatu yang benar-benar ingin dibicarakan atau ditanyakan oleh orang-orang,” kata Franks.

“Ada semacam hambatan bahkan bagi orang-orang yang beritikad baik yang mencoba mencari tahu apa yang dimaksud dengan undang-undang untuk tidak ingin menyelidikinya, karena mencoba mencari tahu penelitian tentang hal tersebut, bergantung pada istilah penelusuran Anda, sebenarnya dapat memberi Anda CSAM.”