OpenAI Rilis Detektor Deepfake Baru, Bisakah Cegah Perempuan Jadi Korban?

Parapuan.co - OpenAI baru-baru ini mengatakan bahwa mereka merilis sebuah detektor deepfake terbarunya untuk diteliti para peneliti disinformasi.

Melansir dari nytimes.com, pada Selasa, (07/05/2024), OpenAI mengatakan akan membagikan detektor deepfake terbarunya kepada sekelompok kecil peneliti disinformasi.

Kontribusi OpenAI tersebut diharapkan agar para peneliti disinformasi dapat menguji alat tersebut dalam situasi dunia nyata dan membantu menemukan cara untuk memperbaikinya.

"Ini untuk memulai penelitian baru," ujar Sandhini Agarwal, peneliti OpenAI yang berfokus pada keselamatan dan kebijakan. "Itu sangat dibutuhkan," tambahnya.

Sebelumnya, OpenAI telah merilis alat detektor yang dirancang untuk mendeteksi konten yang dibuat oleh generator gambar populernya, DALL-E.

Namun perusahaan rintisan AI (Artificial Intelligence) terkemuka itu mengakui bahwa alat tersebut hanyalah sebagian kecil dari apa yang diperlukan untuk melawan deepfake dalam beberapa bulan dan tahun mendatang.

Nah, detektor baru dari OpenAI kali ini mampu mengidentifikasi dengan benar 98,8 persen gambar yang dibuat oleh DALL-E 3, versi terbaru dari DALL-E yang dikembangkan oleh OpenAI.

Akan tetapi, OpenAI mengatakan bahwa alat detektor deepfake tersebut tidak dirancang untuk mendeteksi gambar dari generator populer lainnya yakni Midjourney dan Stability.

OpenAI bergabung dengan Coalition for Content Provenance and Authenticity (C2PA) atau Koalisi untuk Asal dan Keaslian Konten untuk mengembangkan kredensial untuk konten digital.

Standar C2PA adalah semacam 'label nutrisi' untuk gambar, video, klip audio, dan file lain yang menunjukkan kapan dan bagaimana file tersebut diproduksi atau diubah, termasuk dengan AI.

OpenAI pun tengah mengembangkan cara untuk 'memberi tanda air' atau 'watermark' pada suara yang dihasilkan AI sehingga dapat dengan mudah diidentifikasi pada saat itu juga.

Urgensi Mengembangkan Detektor Deepfake

Detektor atau alat yang bisa mendeteksi deepfake yang dihasilkan oleh kecanggihan kecerdasan buatan alias AI memang sangat dibutuhkan pada saat ini.

Ada urgensi yang sangat tinggi bahwa detektor ini harus segera ada untuk mencegah kejahatan deepfake yang sudah memakan banyak korban, termasuk perempuan.

Deepfake adalah kejahatan digital yang sekarang ini sangat mungkin terjadi, terlebih seiring perkembangan kecerdasan buatan atau artificial intelligence (AI).

Deepfake adalah kecerdasan buatan (AI) yang digunakan untuk membuat video, foto, maupun audio palsu tentang seseorang.

Konten hasil deepfake biasanya menyerupai aslinya dan tampil cukup meyakinkan, sehingga mampu mengecoh orang lain.

Sekitar awal Januari 2024 lalu, Taylor Swift sang musisi populer dunia dikabarkan jadi korban deepfake, kejahatan digital di dunia maya.

Foto-foto Taylor Swift yang diedit sedemikian rupa dengan menggunakan AI hingga berbau pornografi beredar luas di media sosial, contohnya saja di Telegram dan X (dulunya Twitter).

Sang musisi harus mengambil langkah hukum dengan mengajukan gugatan terhadap pihak-pihak yang mengunggah foto deepfake dirinya berbau pornografi.

Lebih awal, pada November 2023, beauty content creator sekaligus dokter, dr. Yessica Tania atau yang akrab dikenal sebagai dr. Zie juga jadi korban deepfake.

Kala itu beredar video dokter Zie mengiklankan produk penurun berat badan dengan menampilkan video serta mengubah suaranya menggunakan AI.

Padahal kenyataannya, dr. Zie tidak pernah merekomendasikan obat pelangsing atau penurun berat badan pada siapapun. Iklan tersebut dibuat dengan AI menggunakan data dan informasi dari dr. Zie.

"Saya tidak pernah merekomendasikan produk "pelangsing" atau "penurun berat badan" kepada siapapun sehingga segala resiko yang timbul akibat pemakaian produk tersebut diluar dari tanggung jawab saya," tulis keterangan Instagram @dr.yessicatania, Selasa, (28/11/2023).

"Pengumuman ini juga merupakan teguran atau somasi terbuka bagi siapa saja yang membuat iklan produk tersebut dengan menggunakan video saya TANPA IZIN agar segera menghapusnya dalam jangka waktu paling lama 7 hari sejak pengumuman ini dilakukan," tambahnya.

Dr. Firman Kurniawan, Pemerhati Budaya dan Komunikasi Digital pernah menyebutkan bahwa public figure cukup riskan menjadi korban penyalahgunaan AI terutama bagi perempuan.

Hal itu terbukti dari Taylor Swift dan dr. Yessica Tania yang menjadi korban deepfake, kebetulan juga mereka adalah sosok figur publik yang terkenal.

Akan tetapi, perempuan yang bukan figur publik pun bisa jadi korban deepfake, contohnya seperti yang dialami oleh Francesca Mani, 15 tahun, seorang remaja perempuan kelas dua SMA di New Jersey Amerika Serikat.

Ia jadi korban kekerasan berbasis gender online berupa pornografi deepfake.

Melansir dari Teen Vogue, Francesca menemukan bahwa fotonya diedit pada gambar tubuh telanjang orang lain. Bukan hanya dia, temannya yang lain juga jadi kejahatan pornografi deepfake yang memanfaatkan kecanggihan AI.

Francesca melihat sekelompok siswi lain, teman sekelasnya, yang juga jadi korban pornografi deepfake.

Mirisnya, sekelompok anak laki-laki siswa di SMA-nya menertawakan siswi perempuan yang jadi korban itu.

Firman Kurniawan mengatakan bahwa adanya kecerdasan buatan atau AI awalnya untuk membantu manusia, namun ternyata ada oknum yang menyalahgunakannya untuk kejahatan deepfake.

"Pada awalnya AI diciptakan untuk membantu manusia, teknologi untuk kemanfaatan, tapi ketika AI di tangan orang yang memiliki kreativitas negatif, itu akan disalahgunakan," kata Firman Kurniawan saat dihubungi PARAPUAN, Selasa (28/11/2023).

Sedihnya, perempuan adalah salah satu pihak yang dirugikan dengan oenyalahgunaan AI, misalnya jadi korban deepfake pornografi yang marak atau dimanfaatkan untuk promosi produk seperti yang dialami dr. Zie.

Oleh karenanya, Firman Kurniawan menyarankan agar perempuan makin banyak paham dengan teknologi agar tahu apa saja bahaya yang mungkin mengintai dan bagaimana cara menghindarinya.

"Nah, ini merugikan perempuan, ada baiknya jika perempuan makin banyak paham teknologi kemudian mengetahui bahaya yang mengintai, dan bagaimana cara menghindarinya," tambahnya.

Detektor deepfake OpenAI yang baru mungkin bisa membantu membendung masalah, tetapi tidak benar-benar bisa menyelesaikannya.

Pasalnya, seperti yang dikatakan oleh Sandhini Agarwal, tidak ada obat yang mujarab dalam perang melawan deepfake.

Namun, adalah langkah yang baik dari OpenAI untuk membuat detektor deepfake sehingga bisa meminimalisir orang jadi korban kejahatan tersebut.

Bagaimana tanggapan Kawan Puan mengenai hal ini?

(*)