OpenAI Rilis Detektor Deepfake Baru, Bisakah Cegah Perempuan Jadi Korban?

Akan tetapi, perempuan yang bukan figur publik pun bisa jadi korban deepfake, contohnya seperti yang dialami oleh Francesca Mani, 15 tahun, seorang remaja perempuan kelas dua SMA di New Jersey Amerika Serikat.

Ia jadi korban kekerasan berbasis gender online berupa pornografi deepfake.

Melansir dari Teen Vogue, Francesca menemukan bahwa fotonya diedit pada gambar tubuh telanjang orang lain. Bukan hanya dia, temannya yang lain juga jadi kejahatan pornografi deepfake yang memanfaatkan kecanggihan AI.

Francesca melihat sekelompok siswi lain, teman sekelasnya, yang juga jadi korban pornografi deepfake.

Mirisnya, sekelompok anak laki-laki siswa di SMA-nya menertawakan siswi perempuan yang jadi korban itu.

Firman Kurniawan mengatakan bahwa adanya kecerdasan buatan atau AI awalnya untuk membantu manusia, namun ternyata ada oknum yang menyalahgunakannya untuk kejahatan deepfake.

"Pada awalnya AI diciptakan untuk membantu manusia, teknologi untuk kemanfaatan, tapi ketika AI di tangan orang yang memiliki kreativitas negatif, itu akan disalahgunakan," kata Firman Kurniawan saat dihubungi PARAPUAN, Selasa (28/11/2023).

Sedihnya, perempuan adalah salah satu pihak yang dirugikan dengan oenyalahgunaan AI, misalnya jadi korban deepfake pornografi yang marak atau dimanfaatkan untuk promosi produk seperti yang dialami dr. Zie.

Oleh karenanya, Firman Kurniawan menyarankan agar perempuan makin banyak paham dengan teknologi agar tahu apa saja bahaya yang mungkin mengintai dan bagaimana cara menghindarinya.

"Nah, ini merugikan perempuan, ada baiknya jika perempuan makin banyak paham teknologi kemudian mengetahui bahaya yang mengintai, dan bagaimana cara menghindarinya," tambahnya.

Detektor deepfake OpenAI yang baru mungkin bisa membantu membendung masalah, tetapi tidak benar-benar bisa menyelesaikannya.

Pasalnya, seperti yang dikatakan oleh Sandhini Agarwal, tidak ada obat yang mujarab dalam perang melawan deepfake.

Namun, adalah langkah yang baik dari OpenAI untuk membuat detektor deepfake sehingga bisa meminimalisir orang jadi korban kejahatan tersebut.

Bagaimana tanggapan Kawan Puan mengenai hal ini?

(*)