Elon Musk Blokir Grok Edit Foto Seronok Usai Ancaman Blokir di Indonesia

PLATFORM media sosial X (dahulu Twitter) resmi memperketat aturan penggunaan alat kecerdasan buatan (AI) miliknya, Grok. Kini, model AI tersebut tidak lagi diizinkan untuk mengedit foto orang asli ke dalam pakaian yang terbuka atau minim. Langkah ini diambil sebagai respons atas kekhawatiran global terkait maraknya konten deepfake seksual.

Pihak X mengumumkan telah menerapkan langkah-langkah teknologi untuk mencegah akun Grok memproses pengeditan gambar orang nyata dalam pakaian terbuka, seperti bikini. Pembatasan ini berlaku bagi seluruh pengguna, termasuk pelanggan berbayar.

"Pembatasan ini berlaku untuk semua pengguna, termasuk pelanggan berbayar," bunyi pengumuman resmi dari X pada Rabu (14/1).

Baca juga : Mengenal Grok AI: Chatbot 'Pemberontak' Elon Musk yang Bisa Mengakses Data X secara Real-Time

Respons Terhadap Penyelidikan dan Blokir Internasional

Keputusan ini keluar hanya beberapa jam setelah Jaksa Agung California, Rob Bonta, menyatakan negara bagian tersebut sedang menyelidiki penyebaran deepfake AI seksual, termasuk yang melibatkan anak-anak, yang dihasilkan oleh model Grok.

"Materi ini, yang menggambarkan perempuan dan anak-anak dalam situasi telanjang dan eksplisit secara seksual, telah digunakan untuk melecehkan orang di internet," tegas Bonta dalam pernyataannya.

Baca juga : Grok AI Dipakai Pengguna Buat Konten Asusila Anak, IWF Beri Peringatan Keras

Dampak dari kontroversi ini meluas hingga ke ranah internasional. Indonesia dan Malaysia bahkan telah memblokir akses ke chatbot tersebut akibat penyebaran gambar-gambar tersebut. Di Inggris, Perdana Menteri Sir Keir Starmer memperingatkan bahwa X terancam kehilangan "hak untuk mengatur diri sendiri" (self-regulate), sementara regulator media Inggris, Ofcom, sedang menyelidiki apakah X gagal mematuhi hukum setempat.

Pengetatan Bagi Pengguna Berbayar

X menegaskan kembali bahwa saat ini hanya pengguna berbayar yang memiliki akses untuk mengedit gambar menggunakan Grok. Hal ini diklaim sebagai lapisan perlindungan ekstra untuk memastikan akuntabilitas bagi pengguna yang mencoba menyalahgunakan teknologi tersebut untuk melanggar hukum atau kebijakan platform.

Perusahaan menambahkan bahwa pengguna yang mencoba menghasilkan gambar orang asli dalam balutan bikini, pakaian dalam, atau pakaian serupa lainnya akan dihentikan sistem sesuai dengan hukum di wilayah hukum masing-masing. Langkah ini diharapkan dapat meredam kemarahan global dan mencegah platform milik Elon Musk tersebut menghadapi sanksi hukum yang lebih berat di berbagai negara. (BBC/Z-2)