Grok AI Diblokir! Pemerintah Waspadai Deepfake Porno

PEMERINTAH memutuskan untuk memblokir sementara Grok AI, teknologi kecerdasan buatan milik Elon Musk, menyusul kekhawatiran bahwa sistem tersebut dapat dimanfaatkan untuk menghasilkan konten pornografi deepfake tanpa persetujuan. Langkah ini menandai peningkatan serius dalam upaya negara mengendalikan pemanfaatan AI serta menjaga keamanan ruang digital.

Kementerian Komunikasi dan Digital menyampaikan kebijakan tersebut pada Sabtu, dengan alasan perlindungan mendesak terhadap perempuan, anak-anak, dan masyarakat luas dari dampak psikologis maupun sosial akibat konten eksplisit buatan kecerdasan buatan.

Menteri Komunikasi dan Digital Meutya Hafid menegaskan bahwa praktik pembuatan konten seksual palsu tanpa izin merupakan pelanggaran berat terhadap hak asasi manusia serta martabat dan keamanan warga di dunia maya.

Baca juga : DPR Desak Komdigi Blokir X Milik Elon Musk Imbas Deepfake Porno Grok AI

“Pemerintah memandang deepfake seksual non-konsensual sebagai bentuk kekerasan berbasis digital yang tidak dapat ditoleransi,” ujar Meutya dilansi dari Antara, Sabtu (10/1).

Pemerintah juga menuntut seluruh platform digital yang beroperasi di Indonesia untuk membuktikan bahwa mereka memiliki sistem pengamanan yang memadai guna mencegah pembuatan maupun penyebaran konten terlarang.

Sejalan dengan langkah tersebut, Kementerian telah melayangkan panggilan resmi kepada Platform X (sebelumnya Twitter). Perusahaan diminta memberikan penjelasan mengenai dampak negatif dari konfigurasi Grok saat ini serta memaparkan langkah-langkah teknis konkret guna mencegah penyalahgunaan di masa mendatang.

Pemblokiran ini mengacu pada Peraturan Menteri Nomor 5 Tahun 2020 tentang Penyelenggara Sistem Elektronik Lingkup Privat, yang memberikan kewenangan kepada pemerintah untuk membatasi akses terhadap platform yang lalai dalam memoderasi konten terlarang atau tidak memenuhi kewajiban koordinasi dengan otoritas negara.

Meutya menambahkan bahwa penghentian akses tersebut bersifat sementara. Namun, keberlanjutan operasional Grok di Indonesia—sebagai salah satu pasar media sosial terbesar di dunia, akan sangat bergantung pada kesiapan platform dalam menerapkan penyaringan konten yang ketat serta standar etika kecerdasan buatan yang bertanggung jawab. (Ant/Z-10)