Ketegasan Pemerintah Hadapi AI Grok: Platform X Janji Patuhi Aturan Indonesia

KEMENTERIAN  Komunikasi dan Digital (Komdigi) terus memperketat pengawasan terhadap teknologi kecerdasan artifisial (AI) guna memastikan ruang digital yang aman. Terbaru, Komdigi memanggil pihak platform X untuk meminta klarifikasi terkait fitur AI milik mereka, Grok, yang sempat memicu kekhawatiran publik global.

Langkah ini diambil menyusul keputusan pemerintah Indonesia yang sempat melakukan pemutusan akses sementara terhadap aplikasi chatbot Grok. 

Kebijakan tersebut diambil karena adanya risiko penyalahgunaan teknologi AI untuk menciptakan konten deepfake pornografi yang merugikan martabat warga negara, khususnya perempuan dan anak-anak.

Baca juga : Grok AI Produksi Konten Asusila, Anggota DPR: Ini Perampasan Hak Citra Diri

Menteri Komunikasi dan Digital (Menkomdigi), Meutya Hafid, menegaskan bahwa langkah ini merupakan bentuk perlindungan nyata dari pemerintah. 

"Demi melindungi perempuan, anak, dan seluruh masyarakat dari risiko konten pornografi palsu yang dihasilkan menggunakan teknologi kecerdasan artifisial, Pemerintah melakukan pemutusan akses sementara terhadap aplikasi Grok," jelasnya.

Komitmen dan Moderasi Konten

Dalam pertemuan tersebut, pihak X menyatakan komitmennya untuk tunduk pada hukum yang berlaku di Indonesia. Dirjen Pengawasan Ruang Digital Kemkomdigi, Alexander Sabar, mengungkapkan bahwa X berjanji akan melakukan perbaikan sistem internal agar fitur AI mereka tidak disalahgunakan.

Baca juga : Grok AI Dipakai Pengguna Buat Konten Asusila Anak, IWF Beri Peringatan Keras

“X menegaskan akan memastikan fitur AI Grok tidak dapat digunakan untuk menghasilkan konten bermuatan pornografi, serta akan melakukan penindakan terhadap akun-akun yang terbukti melanggar kebijakan dan peraturan perundang-undangan,” ujar Alexander di Jakarta.

Selain aspek teknologi, platform X juga menyatakan kesiapannya untuk meningkatkan perlindungan terhadap kelompok rentan dan lebih responsif dalam memoderasi konten yang beredar di platform mereka.

Sanksi Bagi Pelanggar

Pemerintah mengingatkan bahwa setiap Penyelenggara Sistem Elektronik (PSE) memiliki kewajiban hukum, mulai dari pendaftaran resmi hingga kewajiban merespons cepat perintah pemutusan akses terhadap konten terlarang. Alexander menegaskan bahwa pemerintah tidak akan segan mengambil tindakan hukum jika komitmen tersebut dilanggar.

“Apabila ditemukan pelanggaran atau ketidakpatuhan, Komdigi memiliki kewenangan untuk menjatuhkan sanksi administratif hingga pemutusan akses layanan,” tegas Alexander. 

Ia juga menambahkan bahwa koordinasi dengan aparat penegak hukum akan terus dilakukan untuk memantau produksi atau penyebaran konten pornografi berbasis AI.

Langkah ini diharapkan menjadi standar bagi pengembang teknologi AI lainnya agar tetap mengedepankan etika dan keamanan pengguna di Indonesia. Komdigi akan terus mengevaluasi komitmen platform X secara berkala guna memastikan ruang digital tetap sehat dan berkelanjutan. (Ant/Z-1)