Grok AI Produksi Konten Asusila, Anggota DPR: Ini Perampasan Hak Citra Diri

ANGGOTA Komisi I DPR RI dari Fraksi Partai NasDem, Amelia Anggraini, mengecam keras penyalahgunaan Grok AI di platform X yang digunakan untuk memproduksi dan menyebarkan konten pornografi menggunakan identitas visual orang nyata tanpa izin. Amelia menegaskan, manipulasi wajah atau foto seseorang menjadi konten asusila merupakan pelanggaran serius terhadap martabat manusia dan hak privasi.

Menurutnya, tindakan tersebut bukan sekadar persoalan kesusilaan, melainkan sudah masuk kategori kekerasan berbasis teknologi yang berdampak sistemik pada psikologis dan reputasi korban.

“Ketika identitas visual seseorang dimanipulasi tanpa izin untuk konten asusila, itu merupakan bentuk perampasan hak individu atas citra dirinya,” ujar Amelia dalam keterangan tertulisnya, Sabtu (10/1/2026).

Baca juga : Panduan Praktis: Cara Pakai Grok AI untuk Content Creator dan Humas

Amelia menyoroti temuan Kementerian Komunikasi dan Digital (Kemkomdigi) yang menunjukkan bahwa Grok AI belum memiliki sistem moderasi atau pengaturan eksplisit untuk mencegah produksi pornografi berbasis foto nyata. Ia mendesak pemerintah tidak menunggu kasus menjadi viral untuk mengambil tindakan.

“Negara wajib hadir melindungi warga di ruang digital. Jika platform AI lain bisa memasang pagar pengaman dan pembatasan yang jelas, maka tidak ada alasan Grok AI tidak melakukan hal yang sama,” tegasnya.

Dari perspektif hukum, Amelia mengingatkan bahwa foto dan wajah adalah data pribadi yang dilindungi oleh Undang-Undang Pelindungan Data Pribadi (UU PDP). Pemrosesan data visual untuk konten seksual tanpa dasar hukum yang sah adalah pelanggaran berat.

Baca juga : Grok vs ChatGPT: Ini Alasan Chatbot Elon Musk Jadi 'Raja' Tren Medsos di 2026

Ia juga menekankan bahwa per 2 Januari 2026, KUHP baru telah resmi berlaku. Ketentuan terkait pornografi diatur secara tegas, di antaranya dalam Pasal 172 dan Pasal 407.

“Ini menegaskan bahwa ruang digital bukan ruang tanpa hukum. Langkah administratif dari Komdigi harus berjalan seiring dengan ketentuan pidana yang berlaku,” imbuhnya.

Sebagai tindak lanjut, Amelia mendorong penguatan standar kepatuhan bagi Penyelenggara Sistem Elektronik (PSE), termasuk platform X milik Elon Musk. Ia menuntut adanya mekanisme prevention by design agar sistem AI tidak bisa memproses permintaan konten seksual berbasis orang nyata.

“Negara harus memastikan adanya respons cepat bagi korban melalui kanal pelaporan yang efektif, mekanisme takedown cepat, serta pencegahan unggah ulang,” kata Amelia. (H-2)