Akademisi UGM Sebut Konten Pornografi Kian Meresahkan dengan Adanya Grok AI

EKSPLOITASI seksual anak di ruang digital kian mengkhawatirkan dengan Hmaraknya manipulasi konten seksual berupa foto dan video melalui fitur kecerdasan buatan atau AI misalnya lewat Grok. Akademisi pemerhati gender dari Sekolah Pascasarjana Universitas Gadjah Mada (UGM) Ratna Noviani menilai kecanggihan fitur AI bukan sekadar kemajuan teknologi, melainkan alat baru untuk melanggengkan kekerasan berbasis gender yang sistemik.

Teknologi ini,  ujar dia, rentan disalahgunakan untuk menciptakan foto serta video  seksual palsu secara instan dan masif. Ironisnya, kecanggihan tersebut justru memperparah objektifikasi dengan menempatkan perempuan sebagai korban utama eksploitasi visual. 

 “Ruang digital yang sering diglorifikasi sebagai ruang ‘kebebasan’ pada akhirnya menjadi medan baru bagi reproduksi kekerasan berbasis gender, termasuk kekerasan seksual yang menargetkan perempuan," terang dia dalam siaran pers, Senin (12/1).

Baca juga : Asia Pasifik Jadi Pusat Pengujian AI Global, Kaspersky Ingatkan Evolusi Ancaman Siber 2026

Hal ini bukan hanya melanggengkan kekerasan lama, tetapi juga menjadi ruang bentuk-bentuk kekerasan baru, seperti kekerasan berbasis gender online yang bersifat masif, anonim, dan cenderung sulit dihentikan.

Ratna menyoroti adanya ketidaknyamanan perempuan di era digital karena ruang digital kini bekerja seperti pisau bermata dua. Di satu sisi, media sosial membuka ruang bagi perempuan untuk tampil, bersuara, dan menghadirkan diri, tetapi di sisi lain memiliki kerentanan karna dapat dijadikan “bahan baku” kekerasan seksual digital

“Di sini terlihat kontradiksi mendasar, perempuan didorong untuk hadir dan visible di ruang digital, tetapi visibilitas itu justru membuat tubuh dan citra mereka menjadi objek untuk dikontrol, dieksploitasi, dan diserang.” imbuh dia.

Baca juga : Bareskrim Selidiki Kasus Deepfake Foto Cabul Berbasis AI Grok

Terkait penggunaan kecerdasan buatan dengan manipulasi konten yang semakin marak, Ratna menilai hal ini sebagai evolusi budaya mengintip. Ia mengamati adanya relasi kuasa berbasis gender yang timpang. 

Menurutnya, perempuan sejak dahulu diposisikan dengan logika male gaze  atau sebagai objek tatapan, objek seksual, dan objek tontonan untuk kesenangan laki-laki.

“Praktik morphing tidak mengubah logika male gaze ini, ia memperhalus dan melanggengkannya dalam bentuk visual digital yang semakin rapi, realistis, dan invasif.” terang dia.

Ratna yang tengah menjabat Ketua Program Magister Kajian Budaya dan Media Sekolah Pascasarjana UGM ini memaparkan temuannya bahwa teknologi digital dan AI sendiri tidak netral. Teknologi dibangun dari data, desain, dan imajinasi sosial yang juga bias maskulin. 

Bahkan, dalam praktik sehari-hari, AI assistant sering digenderisasi sebagai feminin, dengan nama, suara, dan karakter yang merepresentasikan kepatuhan dan pelayanan. “Hal ini menunjukkan bahwa logika teknologi itu sendiri telah lama mereproduksi posisi perempuan sebagai objek. Oleh karena itu, kekerasan visual digital seperti morphing tidak sekadar evolusi dari voyeurisme, tetapi kelanjutan dari problem struktural yang sama.” terang dia.

Dalam upaya memutus rantai ini, Ratna mengemukakan solusi agar pengguna di media digital dapat membangun kesadaran kolektif. Ia menuturkan, masyarakat harus menyadari bahwa tindakan menyukai, mengomentari, atau membagikan konten manipulasi AI dapat menjadikan seseorang sebagai pelaku sekunder.

Ia pun meminta masyarakat agar lebih kritis dan cerdas untuk tidak menyebarkan informasi palsu tersebut. Dengan membangun kesadaran kolektif, kita telah menggeser posisi kita, dari penonton pasif menjadi bagian aktif dari solusi.

"Kita perlu bersama-sama menjadi pengguna teknologi digital dan AI yang kritis, yang sadar bahwa setiap klik, like, dan share punya konsekuensi etis dan politis,” tutup dia. (H-4)