Menjaga Wajah Manusia di Era Algoritma

PERDEBATAN tentang kecerdasan buatan (artificial intelligence/AI) kerap terjebak pada dua kutub ekstrem: optimisme teknologi yang nyaris tanpa syarat dan ketakutan apokaliptik yang berlebihan. 

Di antara dua kutub itu, Paus Leo XIV, dalam Pesan Hari Komunikasi Sosial Sedunia ke-60 bertajuk Custodire voci e volti umani (24/1/2026), menawarkan satu perspektif yang jarang dibicarakan secara serius dalam diskursus kebijakan: persoalan AI pada dasarnya adalah persoalan tentang manusia.

Bukan soal seberapa canggih mesin, melainkan tentang apa yang terjadi ketika wajah, suara, dan relasi manusia direduksi menjadi data yang bisa direplikasi, dimonetisasi, dan dimanipulasi. Inilah titik di mana isu teknologi berubah menjadi isu publik, bahkan politik.

Baca juga : Masa Depan AI Bergantung pada Nilai Manusia

Dari identitas ke komoditas digital

Dalam ekosistem ekonomi digital, wajah dan suara manusia kini bukan lagi sekadar penanda identitas personal. Keduanya telah menjadi komoditas strategis. Teknologi AI mampu meniru ekspresi, intonasi, dan emosi dengan presisi tinggi, hingga batas antara yang autentik dan yang artifisial makin sulit dibedakan.

Masalahnya bukan semata risiko teknis, melainkan absennya perlindungan struktural. Ketika identitas manusia dapat digandakan tanpa persetujuan, negara tertinggal selangkah dalam melindungi martabat warganya. Di sinilah kegagalan kebijakan mulai terasa: hukum berjalan lambat, sementara teknologi bergerak eksponensial.

Bagi Indonesia, isu ini tidak bisa dipandang sebagai persoalan futuristik. Penyalahgunaan wajah dan suara—dari deepfake, penipuan digital, hingga manipulasi politik—sudah hadir di ruang publik kita.

Baca juga : Jadi Kebutuhan Utama, Smart AI Assistant Percepat Interaksi dan Operasional bisnis

Algoritma dan demokrasi emosional

Paus Leo XIV mengkritik secara tajam algoritma media sosial yang mengutamakan engagement ketimbang kualitas deliberasi publik. Algoritma bekerja bukan untuk memperkaya pemahaman, melainkan memicu reaksi emosional cepat: marah, takut, tersinggung. Refleksi dan nalar justru kalah pamor.

Dampaknya bukan sekadar polarisasi, tetapi perubahan watak demokrasi itu sendiri. Demokrasi perlahan bergeser dari arena pertukaran gagasan menjadi kompetisi emosi. Indonesia merasakannya: disinformasi menyebar cepat, hoaks politik berulang, dan ruang diskusi publik semakin bising tetapi dangkal.

Dengan masuknya AI generatif ke dalam produksi konten politik, manipulasi opini publik tidak lagi bersifat insidental. Ia menjadi sistemik, terencana, dan sulit dilacak. Tanpa intervensi kebijakan, demokrasi akan terus berada dalam posisi defensif.

Relasi semu dan rapuhnya kohesi sosial

Satu peringatan penting Paus Leo XIV adalah soal relasi manusia. Chatbot dan asisten virtual dirancang tampil empatik, responsif, dan selalu tersedia. Namun relasi dengan mesin, betapapun canggihnya, tetaplah relasi semu. Ketika interaksi sosial digantikan oleh simulasi empati, masyarakat berisiko kehilangan kemampuan dasar untuk berjumpa dengan perbedaan. 

Dalam konteks Indonesia yang plural, ini bukan isu sepele. Kohesi sosial bertumpu pada kemampuan berdialog, mendengar, dan memahami yang lain—sesuatu yang tidak bisa direplikasi oleh algoritma. Tanpa disadari, teknologi bisa menciptakan echo chamber emosional yang mengikis daya tahan sosial kita sendiri.

Jurnalisme di persimpangan jalan

Pesan Paus juga menyentuh krisis kebenaran. AI mampu memproduksi konten secara masif, tetapi tidak memiliki tanggung jawab editorial. Statistik probabilitas sering disamakan dengan fakta, sementara verifikasi dan konteks diabaikan.

Dalam situasi ini, jurnalisme tidak boleh menyerah pada logika kecepatan semata. Jurnalisme lapangan—yang mengandalkan verifikasi, kehadiran, dan tanggung jawab etis—justru menjadi pilar terakhir kepercayaan publik. Informasi adalah barang publik. Ketika media sepenuhnya tunduk pada algoritma, yang runtuh bukan hanya kredibilitas pers, tetapi kualitas demokrasi.

Oligopoli digital dan peran negara

Paus Leo XIV juga menyinggung konsentrasi kekuasaan digital di tangan segelintir korporasi teknologi global. Mereka tidak hanya menguasai pasar, tetapi juga memengaruhi perilaku, memori kolektif, bahkan persepsi realitas.

Di titik ini, negara tidak boleh bersikap netral. Regulasi AI dan platform digital adalah keniscayaan kebijakan, bukan pilihan ideologis. Negara perlu memastikan transparansi algoritma, perlindungan data pribadi, dan pencegahan manipulasi emosi publik. Regulasi bukan untuk menghambat inovasi, tetapi untuk memastikan inovasi melayani kepentingan warga.

Menentukan arah peradaban

Paus Leo XIV tidak menolak teknologi. Ia mengingatkan batasnya. Teknologi harus tetap menjadi alat, bukan penentu arah hidup manusia. Kuncinya ada pada literasi digital dan AI—agar warga tidak hanya menjadi pengguna, tetapi subjek yang sadar dan kritis.

Pertanyaannya sederhana namun menentukan: untuk siapa teknologi dikembangkan? Jika wajah dan suara manusia hanya menjadi bahan baku mesin, maka kemajuan teknologi justru berbalik menjadi kemunduran peradaban. Menjaga wajah manusia berarti menjaga martabat, kebebasan berpikir, dan masa depan demokrasi itu sendiri.