Waspada Tren Edit Wajah Anak Berbasis AI: Lucu di Sosmed, Berisiko di Dunia Maya

BELAKANGAN ini, media sosial diramaikan oleh tren mengedit wajah anak menggunakan teknologi kecerdasan buatan (Artificial Intelligence/AI) untuk konten menari (dance). Meski terlihat lucu dan menggemaskan, masyarakat diminta untuk bersikap kritis. Di balik visual yang menarik tersebut, tersimpan risiko serius terkait keamanan data dan privasi anak.

Ketua Program Studi Kecerdasan Buatan IPB University, Prof. Yeni Herdiyani, menegaskan bahwa fenomena ini perlu disikapi dengan kewaspadaan tinggi. 

Ia menjelaskan bahwa teknologi yang marak digunakan saat ini adalah Generative AI (Gen-AI), yakni teknologi yang mampu menghasilkan gambar, video, teks, hingga suara berdasarkan model data yang tersedia.

Baca juga : Membangun Benteng Digital: Memastikan Kesiapan Anak Sebelum Terjun ke Ruang Siber

"Bayi dan dance adalah model yang sudah bisa dibuat oleh algoritma. Jika diberi informasi berupa foto riil, AI dapat membuat hasil secara otomatis yang tampak nyata. Itulah mekanisme teknologinya," ujar Prof. Yeni.

MI/HO--Ketua Program Studi Kecerdasan Buatan IPB University, Prof. Yeni Herdiyani

Anak sebagai Kelompok Rentan

Dari sisi keamanan, penggunaan wajah anak sebagai input data AI dinilai sangat rentan terhadap tindak kejahatan digital. 

Prof. Yeni menyoroti bahwa ketika sebuah foto diunggah ke ruang publik, data tersebut secara otomatis dapat diakses oleh siapa saja dan berpotensi disalahgunakan oleh pihak yang tidak bertanggung jawab.

Baca juga : ChatGPT, Teman Belajar atau Ancaman Perkembangan Kognitif Anak?

Menurutnya, hal ini menciptakan celah bahaya yang menempatkan anak-anak pada posisi yang sangat lemah dalam ekosistem digital. 

Orangtua sering kali tidak menyadari bahwa data yang mereka berikan kepada algoritma AI bukan sekadar untuk kepentingan edit foto sesaat, melainkan bisa digunakan untuk melatih model sebagai dataset yang mungkin muncul kembali dalam bentuk lain di masa depan.

"Kondisi ini menempatkan anak sebagai kelompok yang sangat rentan dalam ekosistem digital," ucapnya.

Pentingnya Literasi Digital dan Etika

Oleh karena itu, Prof Yeni mengimbau para orang tua untuk benar-benar memahami risiko digital, mulai dari perlindungan privasi hingga potensi penyalahgunaan data, sebelum memutuskan untuk mengunggah atau mengedit wajah anak mereka.

Sebagai langkah antisipasi jangka panjang, literasi digital menjadi kunci utama. IPB University sendiri telah mengambil langkah konkret dengan memasukkan materi etika dan tanggung jawab penggunaan teknologi dalam mata kuliah berpikir komputasional bagi mahasiswa baru sejak tingkat pertama.

Langkah edukatif ini diharapkan dapat membangun kesadaran masyarakat agar lebih bijak, kritis, dan bertanggung jawab dalam memanfaatkan kemajuan teknologi AI tanpa mengabaikan aspek keamanan bagi anggota keluarga, terutama anak-anak. (Z-1)