Kisah Remaja Perempuan 15 Tahun Bikin Situs Web untuk Bantu Korban KBGO

Parapuan.co - Kecanggihan teknologi yang ditawarkan oleh Artificial Intelligence (AI) ternyata tidak selamanya berdampak baik jika berada di tangan orang yang salah.

AI bisa jadi alat untuk menyerang maupun merugikan orang lain jika digunakan untuk hal-hal yang kurang tepat, misalnya untuk mengedit foto orang lain yang menjurus ke pornografi.

Kekerasan berbasis gender online (KBGO) berupa deepfake kerap mengancam perempuan maupun anak perempuan. Foto perempuan dan anak perempuan dimanfaatkan untuk kejahatan pornografi deepfake.

Deepfake adalah foto, audio, atau video yang dimaksudkan agar terlihat seperti seseorang mengatakan atau melakukan sesuatu yang sebenarnya tidak dilakukannya.

Dalam KBGO pornografi deepfake, foto perempuan atau anak perempuan diedit sedemikian rupa, sehingga terlihat mereka tengah telanjang maupun melakukan aktivitas seksual.

Contohnya yang terjadi pada Francesca Mani, 15 tahun, seorang remaja perempuan kelas dua SMA di New Jersey Amerika Serikat. Ia jadi korban kekerasan berbasis gender online berupa pornografi deepfake.

Melansir dari Teen Vogue, Francesca menemukan bahwa fotonya diedit pada gambar tubuh telanjang orang lain. Bukan hanya dia, temannya yang lain juga jadi kejahatan pornografi deepfake yang memanfaatkan kecanggihan AI.

Francesca melihat sekelompok siswi lain, teman sekelasnya, yang juga jadi korban pornografi deepfake. Mirisnya, sekelompok anak laki-laki siswa di SMA-nya menertawakan siswi perempuan yang jadi korban itu.

Melihat hal tersebut, Francesca yang mulanya merasa sedih berubah jadi marah. Ia bertekad untuk membantu teman-teman dan anak perempuan lain yang jadi korban KBGO.

Baca Juga: Tergolong Aktivitas KBGO, Host Kinderflix Dapat Komentar Seksualisasi

Francesca ingin mengubah pengalamannya menjadi perubahan. Ia menolak merasa malu atas apa yang terjadi padanya karena dia tidak melakukan kesalahan apapun.

"Orang-orang yang melakukannya seharusnya merasa malu," ucap Francesca.

Setelah kejadian tersebut, Francesca membuat situs web bernama aiheeelp.com yang berisi informasi dan sumber daya untuk para korban KBGO lainnya.

Ia juga menghubungi dan memohon pada politisi untuk memperkenalkan undang-undang yang akan melindungi orang-orang seperti dia.

Risiko Kekerasan terhadap Anak di Dunia Maya

Data yang dirilis oleh WeProtect Global Alliance melalui Global Threat Assessment Report yang dipublikasikan di Saudi Arabia, Selasa, (17/10/2023) menunjukkan risiko kekerasan terhadap anak.

Ternyata, diketahui terdapat peningkatan kasus pelecehan seksual terhadap anak sejak tahun 2019 sebesar 87 persen, dengan lebih dari 32 juta laporan secara global. Kebanyakan kasus tersebut terjadi secara online.

Bagaimana dengan di Indonesia? Ternyata Indonesia juga turut mengalami peningkatan pelaporan kasus pelecehan online pada anak.

Berdasarkan data dari Global Threat Assessment, terdapat 1,878,011 laporan kasus di tahun 2022 yang terjadi di Indonesia.

Baca Juga: WeProtect Global Alliance Rilis Data Kekerasan pada Anak di Ruang Digital, Iain Drennan Soroti Pihak yang Bertanggung Jawab

Ironisnya, laporan tersebut meningkat dari tahun ke tahunnya, yang mana pada tahun 2020 terdapat 986,648 laporan kasus.

Dr. Yuhyun Park, pendiri DQ Institute, mengatakan, "Saat ini, dengan penyebaran cepat AI generatif, metaverse, dan perangkat serupa XR (Exended Reality), teknologi digital semakin mengubah kehidupan anak-anak."

"Namun, hanya ada sedikit diskusi mengenai potensi dampak berbahaya dari teknologi tersebut," lanjutnya.

Apa yang Bisa Dilakukan Jika Anak Jadi Korban KBGO

Iain Drennan, Executive Director of WeProtect Global Alliance mengatakan bahwa kekerasan terhadap anak perempuan bukan sepenuhnya jadi tanggung jawab mereka pribadi.

"Anak-anak tidak seharusnya dibebani untuk melindungi diri sendiri. Saya pikir, pertama-tama, pemerintah mempunyai peran penting dalam menetapkan kerangka legislatif yang mengatur, kerangka peraturan di mana perusahaan beroperasi," ucapnya.

"Menurut saya, perusahaan juga punya tanggung jawab nyata dalam merancang lingkungan yang aman untuk anak-anak," tambahnya.

Lantas, apa yang bisa dilakukan oleh orang tua atau dewasa jika anak jadi korban kekerasan berbasis gender online, contohnya saja pornografi deepfake?

Hal utama yang harus dilakukan adalah tidak menyalahkan anak, memahami situasi yang terjadi, dan membicarakan tentang dunia digital bersama dengan anak.

"Dengarkan mereka, jangan salahkan mereka, pahami apa yang terjadi, dan itu akan mudah jika kamu punya percakapan tentang dunia digital sejak awal. Tidak ada kata terlalu awal untuk membicarakan tentang dunia digital dengan anak-anak," ungkapnya.

Iain pun mendorong orang tua maupun pengasuh anak untuk lebih meningkatkan rasa penasaran dan mencari tahu tentang panduan menggunakan platform online yang aman untuk anak, misalnya dari segi pengaturan.

"Lakukan riset pada platform dan aplikasi yang digunakan oleh anak-anak," pungkasnya.

Di sisi lain, jika Kawan Puan, kerabat Kawan Puan, maupun orang yang Kawan Puan kenal jadi korban kekerasan berbasis gender online bisa menghubungi hotline SAPA 129.

Kawan Puan juga bisa mengirim email pengaduan ke Komnas Perempuan yakni pengaduan@komnasperempuan.go.id. Ketahui pula mitra pengada layanan Komnas Perempuan untuk mencari bantuan di sini.

Baca Juga: Margery Kraus CEO APCO Worldwide Beberkan Cara Bangun Ruang Aman untuk Perempuan dan Anak di Dunia Digital

(*)