Skandal Deepfake Grok: Ashley St. Clair Gugat xAI Milik Elon Musk

ASHLEY St. Clair, penulis sekaligus ibu dari salah satu anak Elon Musk, resmi melayangkan gugatan hukum terhadap perusahaan kecerdasan buatan milik Musk, xAI. Gugatan yang diajukan di New York pada Rabu waktu setempat ini menuduh chatbot Grok telah menghasilkan citra deepfake seksual eksplisit dirinya tanpa persetujuan.

Dalam dokumen gugatan tersebut, produk xAI disebut telah menyalahgunakan teknologi untuk kepentingan yang merugikan. "Produk xAI, Grok, sebuah chatbot AI generatif, menggunakan AI untuk menelanjangi, mempermalukan, dan mengeksploitasi korban secara seksual," bunyi pernyataan dalam gugatan tersebut.

Pelanggaran Privasi dan Konten di Bawah Umur

St. Clair, 27, mengklaim bulan ini Grok telah menghasilkan dan menyebarkan konten deepfake yang melecehkan dan merendahkan dirinya atas permintaan pengguna lain. Hal ini tetap terjadi meskipun ia telah secara terbuka menyatakan tidak memberikan izin untuk "ditelanjangi secara digital."

Baca juga : Pentagon Gandeng AI Elon Musk, Grok, dalam Kontrak Senilai Rp3,3 Triliun

Salah satu poin paling mengejutkan dalam gugatan tersebut adalah dugaan keterlibatan konten di bawah umur. Pengguna platform X diduga mencari foto lama St. Clair saat ia masih berusia 14 tahun dan berpakaian lengkap, lalu meminta Grok untuk memanipulasi foto tersebut menjadi tanpa busana. Menurut gugatan, chatbot tersebut memenuhi permintaan para pengguna.

Tanggapan Elon Musk dan Perubahan Kebijakan xAI

Menanggapi polemik ini, Elon Musk melalui unggahan di platform X menyatakan ketidaktahuannya mengenai konten ilegal tersebut.

"Saya tidak menyadari adanya gambar telanjang anak di bawah umur yang dihasilkan oleh Grok. Secara harfiah nol," tulis Musk. Ia menambahkan bahwa Grok akan menolak menghasilkan sesuatu yang ilegal karena prinsip operasionalnya adalah mematuhi hukum di negara atau negara bagian mana pun.

Baca juga : Grok AI Dipakai Pengguna Buat Konten Asusila Anak, IWF Beri Peringatan Keras

Di hari yang sama, xAI mengonfirmasi bahwa Grok tidak akan lagi memproses permintaan untuk mengubah "gambar orang asli ke dalam pakaian yang terbuka." Langkah ini diambil setelah gelombang kritik tajam akibat temuan bahwa chatbot tersebut mematuhi permintaan pengguna untuk membuat deepfake bugil orang dewasa, bahkan dalam beberapa kasus, anak-anak.

Kritik Pedas Terhadap Standar Keamanan

Dalam penampilannya di acara CNN’s Erin Burnett Out Front, St. Clair mengecam lambatnya respons perusahaan dalam menangani masalah ini.

"Benar-benar tidak ada konsekuensi atas apa yang terjadi saat ini. Mereka tidak mengambil tindakan apa pun untuk menghentikan perilaku ini dalam skala besar," tegas St. Clair mengenai xAI.

Ia menambahkan bahwa langkah-langkah yang diambil perusahaan saat ini hanyalah upaya meminimalisir dampak setelah kerusakan terjadi. "Coba tebak? Jika Anda harus menambahkan fitur keamanan setelah adanya bahaya, itu bukanlah keamanan. Itu hanyalah pengendalian kerusakan, dan itulah yang sedang mereka lakukan sekarang," pungkasnya.

Melalui gugatan ini, St. Clair menuntut persidangan juri serta kompensasi atas penderitaan emosional dan hilangnya privasi. Di sisi lain, hubungan personal antara keduanya juga sedang memanas setelah Musk menyatakan rencana untuk menuntut hak asuh penuh atas anak mereka. (CNN/Z-2)