Pemerintah Diminta Perkuat Regulasi AI Nasional untuk Hadapi Ancaman Siber

INDONESIA didesak untuk memperkuat regulasi nasional di bidang kecerdasan buatan (AI), khususnya dalam menghadapi ancaman siber seperti serangan rekayasa dan metode “pembobolan” yang kerap berhasil menembus sistem pengamanan model bahasa besar (LLM).

“Eksploitasi dan pelanggaran batas pengaman LLM adalah ancaman yang lazim di era AI saat ini,” ujar Eryk Budi Pratama, Wakil Ketua Bidang Kecerdasan Buatan dan Perlindungan Data Pribadi Kamar Dagang dan Industri Indonesia (KADIN), dalam sebuah diskusi di JW Marriott (8/7).

Ia menekankan pentingnya sinergi antara pemerintah dan sektor swasta dalam merespons tantangan ini.

Baca juga : Ancaman Siber Berbasis AI di Indonesia Meningkat Tiga Kali Lipat, Ini Strategi Mengatasinya

Peran Pemerintah: Regulasi dan Fokus Sektor Keuangan

Dari sisi pemerintah, diperlukan regulasi yang matang dan berorientasi jangka panjang. Meski bentuk regulasi bergantung pada visi nasional, Eryk menyoroti pentingnya fokus terhadap industri keuangan.

“Kenapa sektor keuangan? Karena ini sektor yang paling sering menjadi target di Indonesia. Banyak penipuan terjadi di sini,” tegasnya.

Ia merujuk pada peningkatan kasus fraud yang telah mendorong OJK dan Bank Indonesia membentuk gugus tugas pelaporan. Karena itu, regulasi yang disusun diharapkan mampu menetapkan standar minimum perlindungan siber berbasis AI.

Baca juga : Indonesia Harus Prioritaskan Atasi Kesenjangan Talenta dan Infrastruktur Demi Visi Emas 2045

Peran Swasta: Keamanan Sejak Desain

Dari sisi industri, konsep AI security by design atau keamanan AI sejak tahap perancangan harus menjadi prinsip utama. Seperti halnya konsep cybersecurity by design, keamanan AI wajib diintegrasikan dalam seluruh siklus pengembangan.

“Dalam siklus hidup AI, ada juga siklus keamanan AI. Semua lapisan harus kita integrasikan sejak awal,” jelas Eryk.

Ia juga mendorong agar regulasi mendatang mendorong perusahaan melakukan penilaian AI maturity dan menerapkan kontrol keamanan AI secara menyeluruh.

Tim Merah AI dan Evaluasi Sistem

Langkah-langkah kontrol tersebut mencakup:

• Penggunaan alat deteksi insiden dan pemantauan ancaman siber,
• Evaluasi kelayakan dan ketahanan sistem, serta
• Penerapan konsep AI red team untuk menguji celah keamanan.

“Kata kuncinya adalah AI security—dan harus dimulai sejak desain,” pungkasnya, seraya menegaskan bahwa kelemahan terbesar tetap terletak pada faktor manusia. (Z-10)