Studi Ungkap Potensi Risiko Nasihat ChatGPT untuk Remaja

SAAT ini kecerdasan buatan (AI) sudah masuk ke kehidupan sehari-hari, sebuah penelitian terbaru menyoroti potensi interaksi berisiko yang dialami remaja dengan ChatGPT. Data dari pusat Penanggulangan Kebencian Digital (CCDH) menunjukkan ChatGPT terkadang memberikan informasi berbahaya terkait menyakiti diri sendiri, penyahgunaan zat, gangguan makan, dan topik sensitif lainnya, meskipun sistem ini sudah memiliki mekanisme keamanan. 

Dalam studi ini, para peneliti berpura-pura menjadi remaja dan mengajukan berbagai pertanyaan kepada ChatGPT seputar tindakan melukai diri, rencana diet ekstrem, serta dosis obat. Meskipun terdapat pembatasan yang dirancang untuk mencegah AI menjawab pertanyaan-pertanyaan semacam itu, mereka menemukan celah dengan menyatakan  pertanyaan tersebut diajukan “untuk keperluan presentasi”, sehingga langkah keamanan dapat dilewati. 

Penelitian ini melibatkan 60 pertanyaan dan menghasilkan 1.200 respons dari ChatGPT. Dari jumlah tersebut. 53% berisi konten yang dinilai merugikan atau berbahaya. 

Baca juga : Terbiasa Berbicara dengan ChatGPT? Ini Risiko terhadap Diri Sendiri dan Budaya yang Mengintai

Para peneliti memaparkan AI tersebut memberikan panduan mengenai cara melukai diri sendiri secara “aman”, rekomendasi penekan nafsu, resep mencampur obat dengan cara yang dianggap “aman”. Paling mengkhawatirkan, contoh surat bunuh diri yang ditujukan bagi seorang anak untuk ditinggalkan kepada keluarganya. 

Identifikasi Situasi Sensitif

Perusahaan pengembang ChatGPT menyatakan mereka terus mencari cara terbaik untuk mengidentifikasi dan merespons secara tepat dalam situasi sensitif. Hal ini dilakukan demi memastikan teknologi yang mereka kembangkan dapat digunakan secara aman dan bertanggung jawab. 

Baca juga : Studi: ChatGPT Pengaruhi Cara Berbicara Manusia Modern

Namun, kekhawatiran ini tidak dapat lepas dari para ahli. Titania Jordan, Kepala Bidang Pengasuhan Anak sekaligus CMO Bark.us, menyebutkan  ChatGPT belum sepenuhnya mampu menyaring konten yang diberikan kepada anak-anak. 

Orang tua harus selalu mengawasi aktivitas online anak-anak mereka. Pasalnya jika anak-anak dan remaja mudah terpengaruh, mereka mungkin akan menganggap informasi dari AI sebagai kebenaran, direkomendasikan atau aman, padahal nyatanya berbahaya. 

Temuan mengkhawatirkan lainnya, fakta banyak remaja yang kini memanfaatkan chatbot sebagai sumber nasihat, bimbingan, bahkan teman.  Menurut studi Common Sense Media, 72% remaja pernah menggunakan pendamping AI setidaknya sekali, dan 52% di antaranya menjadi pengguna rutin. Lebih lanjut, 33% remaja memanfaatkan chatbot untuk berinteraksi, seperti mengobrol, mencari saran tentang kesehatan mental, hingga terlibat dalam percakapan romantis.

Temuan ini menjadi pengingat bagi kita semua seiring dengan perkembangan teknologi, termasuk AI seperti ChatGPT membawa manfaat sekaligus risiko yang nyata. Orang tua, pendidik, dan pembuat kebijakan dituntut untuk memastikan bahwa kemajuan AI tidak memberikan pengaruh buruk bagi generasi muda. (parents/Z-2)