REPUBLIKA.CO.ID, JAKARTA -- Maraknya praktik manipulasi foto dan video seksual berbasis kecerdasan buatan (Al) menimbulkan keresahan publik. Teknologi yang seharusnya menjadi alat inovasi justru disalahgunakan untuk memproduksi konten seksual palsu secara instan dan masif, dengan perempuan dan anak sebagai korban utama eksploitasi visual.
Untuk memutus rantai kekerasan berbasis AI, pemerhati gender dari Universitas Gadjah Mada (UGM), Ratna Noviani, menekankan pentingnya membangun kesadaran kolektif di kalangan pengguna. la mengingatkan tindakan menyukai, mengomentari, atau membagikan konten manipulasi Al dapat menjadikan seseorang sebagai pelaku sekunder.
"Membangun kesadaran kolektif berarti menggeser posisi kita dari penonton pasif menjadi bagian aktif dari solusi. Kita perlu menjadi pengguna AI yang kritis, yang sadar bahwa setiap klik, like, dan share memiliki konsekuensi etis dan politis," kata dia dalam keterangan tertulis, dikutip pada Jumat (9/1/2026).
Ratna mengatakan kecanggihan Al tidak bisa dilihat semata sebagai kemajuan teknologi. Menurutnya, Al telah menjadi alat baru yang melanggengkan kekerasan berbasis gender secara sistemik.
"Ruang digital yang sering diglorifikasi sebagai ruang 'kebebasan' pada akhirnya menjadi medan baru bagi reproduksi kekerasan berbasis gender, termasuk kekerasan seksual yang menargetkan perempuan," kata Ratna.
la menilai, kekerasan berbasis gender di ruang digital memiliki karakter yang masif, anonim, dan sulit dihentikan. Hal tersebut membuat perempuan semakin tidak aman, meski ruang digital kerap dipromosikan sebagai sarana ekspresi dan pemberdayaan.
Ratna menyoroti adanya kontradiksi mendasar yang dialami perempuan di era digital. Di satu sisi, media sosial membuka ruang bagi perempuan untuk tampil, bersuara, dan membangun visibilitas. Namun di sisi lain, visibilitas tersebut justru membuat tubuh dan citra perempuan rentan dimanipulasi menjadi bahan kekerasan seksual digital.
Ikuti Whatsapp Channel Republika