Ancaman Pelanggaran HAM di Balik Personalisasi Konten Berbasis AI

Contoh termudah memahami personalisasi konten, adalah tawaran konten yang tersaji di media digital. Di platform tersebut preferensi disesuaikan kepada tiap-tiap khalayak. Ini lantaran algoritmanya telah terlacak.

Bayangkan, bagaimana ketika semua informasi untuk semua orang ini terjadi di zaman media analog. Pelaku bisnis keuangan harus menerima sajian berita kriminalitas atau pertandingan olah raga, yang sama sekali tak diminatinya. Sementara, penggemar fashion and lifestyle disodori siaran TV bertema politik atau dinamika pasar saham, yang asing baginya. Di situ, ada informasi yang sia-sia karena tak dikonsumsi. Memang, dalih pelaku medianya adalah keragaman informasi bertujuan mengakomodasi berbagai karakteristik khalayak. Lagi pula, informasi yang tak sesuai hari ini bisa berguna di saat lain. 

Namun saat dikaji dari sisi ekonominya, merupakan bentuk produksi yang tak balik modal. Ini lantaran sangat jarang ada khalayak yang mengkonsumsi semua jenis informasi. Khalayak sudah punya preferensi. Harapan media dapat menjangkau seluruh khalayak, justru menjadikan informasi yang bermanfaat hanya sebagian. Khalayak dibebani pembayaran yang tak perlu. Akibat ada informasi yang tetap hadir, tapi tak dimanfaatkan.  

Baca juga : Program Mainstreaming HAM akan Digencarkan untuk ASN dan Warga Jaksel

Namun seluruh keadaan berubah, saat media digital hadir. Ini termasuk yang diberdayakan artificial intelligence (AI). Personalisasi konten disusun berbasis algoritma, yang dilacak dari riwayat penggunaan perangkat digital khalayak. Algoritma ini mampu mengenali preferensi khalayak. Dalam penelitian yang dilakukan Vaclav Moravec, Nik Hynek, Marinko Skare, Beata Gavurova dan Volodymyr Polishchuk, 2025, berjudul Algorithmic Personalization: A Study of Knowledge Gaps and Digital Media Literacy, dengan mengacu pada penelitian yang dilakukan Xu et al, 2022, personalisasi konten dimengerti sebagai penyesuaian informasi berdasar kebutuhan, preferensi, atau perilaku pengguna perangkat digital. Seluruh proses ini bertujuan, memastikan pengguna mendapatkan konten yang sesuai dengan minat maupun kebutuhannya berdasar data. Data itu bersumber dari riwayat pencarian, perilaku online, maupun demografi yang sering terungkap saat menggunakan perangkat digital.

Penerapan personalisasi berelasi dengan semua media digital, termasuk layanan semacam video streaming: Netflix, Amazon Prime Video, maupun Disney Channel. Layanan itu mempersonalisasi tawaran tontonan, berdasar preferensi khalayak. Penyusunannya juga didahului dengan memetakan perilaku kepenontonan, yaitu pilihan tema, asal negara yang dikisahkan, pilihan artis yang digemari, hingga cara menikmati video.

Cara menikmati ini, bervariasi, seperti sekali menonton untuk seluruh episode serial. Ini dikenal sebagai binge watching. atau menonton bertahap dalam durasi waktu yang relatif sama, tiap menonton. Personalisasi sering mengakibatkan pengalaman kepenontonan yang memuaskan. Khalayak merasa dirinya dipahami. Pilihan yang ditawarkan, sesuai dengan karakternya yang teralgoritma. Hal lain yang juga penting menyangkut personalisasi: munculnya perasaan tak adanya tawaran yang sia-sia. Khalayak tak merasa rugi harus membayar konten yang tak dinikmatinya. Personalisasi yang jitu, mampu memetakan konsep diri khalayak. Karenanya, jadi ciri layanan yang mengandalkan media digital hari ini. Personalisasi adalah ideologi teknologi informasi. 

Baca juga : Peran Lembaga Nasional dan Internasional dalam Melindungi Hak Asasi Manusia

Kendati demikian, jitunya personalisasi terus disempurnakan. Ini akibat penerapannya yang tak selalu mampu memutlakkan hasil. Penyempurnaan dilakukan agar perangkat mampu menyimpan dan mengolah data dalam ukuran lebih besar. Ukuran yang berimplikasi pada jangkauan algoritma, identik dengan realitas. Hanya saja, seluruhnya bukan tanpa masalah. Personalisaasi berhadapan dengan persoalan Hak Asasi Manusia (HAM). 
Jika dirunut, persoalan HAM dimulai sejak awal penyusunan algoritma. Data pemetaan dikumpulkan terus-menerus, mulai saat khalayak membuka e-mail, menyelami website, mengunggah konten media sosial dan berkomentar, mengirim pesan percakapan, melakukan pembelian, hingga menulis prompt di aplikasi berbasis AI. Selalu ada digital path yang tertinggal. Bahkan saat perangkat digital dinyalakan saja, produksi digital path tetap berlangsung. Misalnya Google yang tetap mecatat lintasan perjalanan, walaupun tak diminta penggunanya. 

Seluruh pengumpulan data itu, akhirnya tak berbeda dengan pengawasan terus menerus. Pengawasan yang, dalam novel 1984 karya George Orwel, 1949, dilakukan oleh Big Brother, tak selalu disadari penggunanya. Ada ruang privat khalayak yang diakses perangkat yang tidak bisa dihindari. Artinya, ada pihak di luar pengguna, tanpa persetujuan secara eksplisit memasuki ruang.

Berikutnya, dari data yang terkumpul itu dilakukan pemilahan. Tujuannya menemukan data yang bernilai. Memilah untuk menemukan data bernilai, pasti dengan lebih dulu mengakses seluruh data kemudian memisahkannya dari yang tak bernilai. Sebab tak mungkin, data yang bernilai muncul dengan sendirinya dan diproses untuk penyusunan algoritma. Pengembang media digital menggunakan keleluasaannya, mengakses seluruh data.

Oleh karena itu, relevan dipertanyakan, hak apa yang dimiliki pengembang media digital, sehingga dapat mengakses data penggunanya tanpa batas? Ketika tak ada satu hak pun yang membenarkannya, terjadilah pelanggaran HAM terhadap penggunanya. Saat algoritma telah tersusun, penggunaannya untuk personalisasi masih dibayang-bayangi persoalan HAM. Hak khalayak untuk memperoleh informasi yang benar, tereliminasi.

Pemilihan Kepala Daerah (Pilkada) DKI Jakarta tahun 2017 lalu, yang mempersaingkan Basuki Tjahaja Purnama (Ahok) dengan Anies Rasyid Baswedan, dapat menjadi ilustrasi keadaan ini. Personalisasi konten media digital mempolarisasi penduduk Jakarta menjadi dua kelompok yang eksklusif. Tak ada sedikit pun wilayah persinggungannya. Calon pemilih Ahok tak mungkin ada yang tetap bersimpati pada Anies. Juga tak mungkin, calon pemilih Anies yang tetap mengakui sisi baik Ahok.

Gambar yang ditunjukan oleh berbagai analisa jejaring sosial menggambarkan dua kumpulan jejaring yang terbentuk oleh percakapan maupun sentimen terhadap kedua kandidat, tanpa penengah. Eksklusivitas itu dibentuk oleh personalisasi konten, yang disusun berdasar algoritma riwayat konsumsi berita maupun komentar calon pemilih.

Konten berikutnya yang ditawarkan pada masing-masing kelompok, bertema konsisten. Sesuai preferensi masing-masing calon pemilih. Seluruhnya terjadi akibat gelembung penapisan informasi, filter bubble. Hanya berita senada, yang tersaji sebagai pilihan khalayak. Informasi yang akhirnya hadir, sebagai tema yang kian menguat. Gaungnya memantul kian keras. Kekerasan yang mampu membangun ilusi kebenaran khalayak, oleh berulangnya suara yang senada. Ini sama halnya dengan suara di dalam gua, terpantul di dalam ruang gema, echo chamber. Peningkatan yang persisten, dianggap merepresentasikan kebenaran.

Calon pemilih yang mengalami dau keadaan di atas kehilangan hak dasarnya untuk mempertimbangkan realitas yang lebih beragam. Realitas yang berpeluang memiliki nilai yang obyektif. Dapat diterima atau ditolak, setelah dibandingkan seksama. Kehilangan peluang membandingkan, mendorong calon pemilih menganggap: hanya realitas yang di hadapannya yang benar. Realitas alternatif yang ada di hadapan pesaing, adalah realitas palsu. Bahkan salah. Hak atas kebenaran yang hakiki, dipangkas oleh personalisasi. Ini pun belum memperhitungkan: konten yang dipersonalisasi, adalah berita yang mengandung disinformasi, alih-alih sebatas misinformasi.

Relevan dengan uraian di atas, Matt James Boyd, 2018, dalam AI Content Targeting may Violate Human Rights mengemukakan kurang lebih, terjadinya pelanggaran hak asasi atas kebenaran hakiki, dapat disebabkan oleh operasi AI yang tidak transparan. Seluruhnya dapat mengganggu otonomi dan perilaku sadar individu.  Riwayat penelusuran, demografi pengguna, analisis semantik dan sentimen, juga berbagai faktor lainnya, digunakan untuk menentukan konten mana yang hendak disajikan serta ditargetkan kepada siapa. Sementara alasan di balik keputusan penyajiannya, sering tak jelas bagi penggunanya. Bahkan bagi penyedia media digital. 

Memang personalisasi dapat meminimalkan hadirnya konten yang tak relevan. Namun itu tak membebaskannya dari bias. Bias yang makin diperkuat, konten yang menghasut, maupun yang mengandung disinformasi. Seluruhnya makin terpromosi akibat terbaca oleh perangkat analitik, sebagai minat khalayak yang tinggi. Reproduksi bias berputar, sebagai siklus yang tak berkesudahan. Seluruhnya memangkas hak otonomi individu. 

Terpangkasnya hak itu, menganggu kebebasan individu dalam mencari dan membagi ide yang mampu melintasi batas ideologi, politik, maupun sosial. Membatasinya menemukan jenis informasi yang benar-benar diperlukannya. Bukan informasi yang ‘dianggap’ diperlukannya. Demikian pula, personalisasi berbasis algoritma mengabaikan konten dengan minat yang rendah, alih-alih mencegahnya dari promosi konten yang digerakkan bot, peretasan metadata, maupun konten yang rendah validitasnya namun banyak peminatnya.

Jadi, atas nama relevansi dan kemudahan memilih melalui personalisasi media digital, bolehkah hak dasar manusia diabaikan? Jika itu yang memang terjadi, masih berada di jalur etiskah, seluruh pengembangan kedigdayaan perangkat teknologi informasi yang mengandalkan personalisasi? (E-3)