Teknologi AI Bantu Lindungi Anak dari Konten Negatif

WAKIL Menteri Kominfo Nezar Patria menuturkan bahwa teknologi Artificial Intelligence (AI) atau kecerdasan buatan bisa diimplementasikan untuk melindungi pengguna internet dari kalangan anak-anak terpapar oleh konten negatif.

Pandangannya disampaikan saat menghadiri seri Diskusi Publik Kecerdasan Buatan (AI) dengan tema AI for Child Online Protection di Jakarta. Dia ingin teknologi juga dirancang untuk bisa melindungi anak-anak di ruang digital.

Wamenkominfo menuturkan bahwa dalam teknologi AI bisa menyediakan dukungan filter dan moderasi konten secara otomatis pada konten negatif.

“AI dapat digunakan melakukan deteksi cyberbullying melalui upaya pengaman dan deteksi pola pelaku cyberbullying, serta mengidentifikasi pelaku kekerasan online melalui deteksi perilaku di ruang digital," jelasnya.

Tidak hanya itu, menurut Wamenkominfo Nezar Patria, teknologi AI juga memiliki peluang untuk membantu menghadirkan perlindungan keamanan dan dan privasi.

“AI juga bisa membantu orang tua memantau screen time, tentu saja supaya anak tidak terlalu larut dalam penggunaan digital dan mengatasi kecanduannya juga,” ucapnya.

Baca juga:

> Ngobrol Bareng Legislator: Peran Krusial Generasi Muda Memproduksi Konten Positif

> Sam Altman kembali sebagai CEO OpenAI setelah Dipecat

Di sisi lain, keberadaan teknologi generative AI seperti deepfake yang memungkinkan manipulasi konten foto atau video dan produksi konten-konten negatif dengan anak sebagai korban. 

Dia mendorong adanya diskusi oleh semua pihak yang berhubungan dengan anak-anak untuk memanfaatkan teknologi AI demi kemajuan anak-anak di Indonesia.

“Pemanfaatan AI di kelompok yang selama ini berinteraksi dengan pendidikan anak-anak, baik para advokasi hak-hak anak, kemudian mereka yang terlibat dalam pendidikan anak-anak, AI ini saya kira sangat penting,” tegasnya.

Data dari UNICEF pada 2023 menyebutkan terdapat 175.000 anak yang menjadi pengguna baru internet setiap hari atau 1 anak setiap detik. Wamenkominfo menambahkan bahwa di Indonesia saat ini ada sekitar 30 juta anak yang menjadi pengguna aktif internet.

Tingginya jumlah pengguna internet usia anak menghadirkan ancaman dan risiko yang besar, seperti paparan konten negatif, perundungan siber (cyberbullying) kepada anak, bahaya kebocoran data anak, hingga Child Sexual Abuse Material. (Medcom/Z-6)