Algoritma Personalisasi Berpotensi Mengganggu Proses Belajar

SEBUAH studi terbaru mengungkap algoritma personalisasi dapat memengaruhi cara seseorang mempelajari informasi baru. Riset tersebut menemukan peserta yang memulai dari nol, cenderung menjelajah lebih sedikit ketika petunjuk atau informasi yang mereka lihat dikurasi algoritma. Akibatnya, mereka menyerap gambaran yang menyempit dan sering kali salah, namun tetap merasa sangat yakin terhadap kesimpulan tersebut.

Penelitian yang dilakukan pada platform rekomendasi konten, seperti YouTube, menunjukkan ketika algoritma menentukan informasi yang tampil dalam sebuah proses belajar, peserta lebih fokus pada sebagian kecil materi. Minimnya eksplorasi menyebabkan mereka keliru menjawab pertanyaan dalam tes lanjutan, meski tetap mengekspresikan kepercayaan diri yang tinggi.

Giwon Bahg, peneliti yang melakukan studi ini dalam disertasinya di Ohio State University, menyampaikan temuan ini menimbulkan kekhawatiran. “Namun penelitian kami menunjukkan bahwa bahkan ketika Anda tidak tahu apa pun tentang suatu topik, algoritma ini dapat langsung mulai membangun bias dan dapat menyebabkan pandangan yang menyimpang terhadap realitas,” ujar Bahg, yang kini menjadi peneliti postdoktoral di Pennsylvania State University.

Hasil studi tersebut dipublikasikan dalam Journal of Experimental Psychology: General. Brandon Turner, salah satu penulis dan profesor psikologi di Ohio State, menjelaskan pengguna cenderung menarik kesimpulan luas dari informasi terbatas yang disediakan algoritma. 

“Orang-orang kehilangan informasi ketika mereka mengikuti sebuah algoritma, namun mereka berpikir bahwa apa yang mereka ketahui dapat digeneralisasi ke fitur-fitur lain dan bagian-bagian lain dari lingkungan yang belum pernah mereka alami,” katanya.

Para peneliti memberikan ilustrasi sederhana. Seseorang yang belum pernah menonton film dari suatu negara mulai mencoba menonton. Ketika layanan streaming memberi rekomendasi, pilihan awal akan mendorong algoritma menampilkan film serupa. Situasi ini bisa membatasi pemahaman pengguna terhadap keragaman genre dan mempersempit pandangan mereka terhadap budaya dalam film tersebut.

Untuk menguji fenomena ini secara eksperimental, tim peneliti merekrut 346 peserta dalam sebuah tugas pembelajaran fiksi. Mereka mempelajari karakteristik “alien” kristal dengan enam fitur berbeda. Pada kondisi tertentu, algoritma personalisasi mengarahkan peserta untuk terus melihat fitur yang sama berulang kali, sehingga mereka melewatkan informasi lain.

Hasilnya, peserta yang diarahkan algoritma melihat lebih sedikit fitur dan mengembangkan pola pengamatan yang sempit. Saat diuji dengan contoh baru, mereka lebih sering salah mengelompokkan, namun justru semakin yakin pada jawabannya. “Mereka bahkan lebih percaya diri ketika mereka benar-benar salah dalam pilihan mereka dibandingkan ketika mereka benar,” ujar Bahg.

Turner menambahkan bahwa temuan ini relevan dalam konteks kehidupan sehari-hari. “Jika Anda memiliki anak muda yang sungguh-sungguh mencoba belajar tentang dunia… apa yang akan terjadi?” katanya. Vladimir Sloutsky dari Ohio State University turut menjadi penulis penelitian ini. (Science Daily/Z-2)