Headline.co.id, Medan ~ Fenomena penyebaran konten seksual palsu yang marak melalui teknologi kecerdasan buatan menimbulkan keresahan di masyarakat. Teknologi ini kerap disalahgunakan untuk menciptakan foto dan video seksual palsu secara cepat dan masif. Kondisi ini memperburuk objektifikasi, terutama terhadap perempuan yang menjadi korban utama eksploitasi visual. Selain itu, eksploitasi seksual anak di dunia digital juga semakin mengkhawatirkan. Berdasarkan laporan tahun 2024, Indonesia menempati posisi ketiga dunia dengan 1.450.403 kasus, menjadikannya salah satu negara dengan jumlah kasus pornografi daring terbesar.
Ratna Noviani, Ph.D., seorang akademisi pemerhati gender dari Sekolah Pascasarjana UGM, menegaskan bahwa kecanggihan kecerdasan buatan tidak hanya sekadar kemajuan teknologi, tetapi juga alat baru untuk melanggengkan kekerasan berbasis gender yang sistemik. “Ruang digital yang sering dianggap sebagai ruang ‘kebebasan’ pada akhirnya menjadi medan baru bagi reproduksi kekerasan berbasis gender, termasuk kekerasan seksual yang menargetkan perempuan. Ini bukan hanya melanggengkan kekerasan lama, tetapi juga menjadi ruang bentuk-bentuk kekerasan baru, seperti kekerasan berbasis gender online yang bersifat masif, anonim, dan cenderung sulit dihentikan,” jelasnya pada Jumat (9/1).
Ratna juga menyoroti ketidaknyamanan perempuan di era digital. Ruang digital kini berfungsi seperti pisau bermata dua. Di satu sisi, media sosial membuka ruang bagi perempuan untuk tampil dan bersuara, memberikan kebebasan untuk membangun visibilitas dan menunjukkan agensi. Namun, eksistensi visual tersebut juga rentan dijadikan “bahan baku” kekerasan seksual digital. “Di sini terlihat kontradiksi mendasar, perempuan didorong untuk hadir dan terlihat di ruang digital, tetapi visibilitas itu justru membuat tubuh dan citra mereka menjadi objek untuk dikontrol, dieksploitasi, dan diserang,” tegasnya.
Mengenai penggunaan kecerdasan buatan dalam manipulasi konten yang semakin marak, Ratna menilai hal ini sebagai evolusi budaya mengintip. Ia mengamati adanya relasi kuasa berbasis gender yang timpang. Menurutnya, perempuan sejak dahulu diposisikan dengan logika male gaze atau sebagai objek tatapan, objek seksual, dan objek tontonan untuk kesenangan laki-laki. “Praktik morphing tidak mengubah logika male gaze ini, ia memperhalus dan melanggengkannya dalam bentuk visual digital yang semakin rapi, realistis, dan invasif,” jelasnya.
Ketua Program Magister Kajian Budaya dan Media Sekolah Pascasarjana UGM ini juga memaparkan bahwa teknologi digital dan AI tidak netral. Teknologi dibangun dari data, desain, dan imajinasi sosial yang juga bias maskulin. Bahkan dalam praktik sehari-hari, AI assistant sering digenderisasi sebagai feminin, dengan nama, suara, dan karakter yang merepresentasikan kepatuhan dan pelayanan. “Hal ini menunjukkan bahwa logika teknologi itu sendiri telah lama mereproduksi posisi perempuan sebagai objek. Oleh karena itu, kekerasan visual digital seperti morphing tidak sekadar evolusi dari voyeurisme, tetapi kelanjutan dari problem struktural yang sama,” jelasnya.
Untuk memutus rantai ini, Ratna mengemukakan solusi agar pengguna media digital dapat membangun kesadaran kolektif. Ia menuturkan, masyarakat harus menyadari bahwa tindakan menyukai, mengomentari, atau membagikan konten manipulasi AI dapat menjadikan seseorang sebagai pelaku sekunder. Ia pun meminta masyarakat agar lebih kritis dan cerdas untuk tidak menyebarkan informasi palsu tersebut. “Membangun kesadaran kolektif berarti menggeser posisi kita, dari penonton pasif menjadi bagian aktif dari solusi. Kita perlu bersama-sama menjadi pengguna teknologi digital dan AI yang kritis, yang sadar bahwa setiap klik, like, dan share punya konsekuensi etis dan politis,” pungkasnya.
