AI Berhasil Mereplikasi Diri Sendiri, Para Ilmuwan Peringatkan Risiko Sistem yang tidak Terkendali

PARA ilmuwan mengatakan kecerdasan buatan (AI) melampaui "garis merah" yang kritis dan telah berhasil mereplikasi dirinya sendiri. Dalam sebuah studi baru, peneliti dari Tiongkok menunjukkan dua model bahasa besar (LLM) yang populer dapat menggandakan diri mereka sendiri.

"Replikasi diri yang berhasil tanpa bantuan manusia adalah langkah penting bagi AI untuk mengalahkan [manusia], dan merupakan sinyal awal untuk AI yang tidak terkendali," tulis para peneliti dalam studi tersebut, yang dipublikasikan pada 9 Desember 2024 di database preprint arXiv.

Dalam studi tersebut, peneliti dari Universitas Fudan menggunakan LLM dari Meta dan Alibaba untuk menentukan apakah AI yang dapat mereplikasi diri sendiri dapat berkembang di luar kendali. Dari 10 percobaan, kedua model AI menciptakan salinan terpisah dan berfungsi dari dirinya sendiri dalam 50% dan 90% kasus, masing-masing. Namun, studi ini belum ditinjau sejawat, sehingga belum jelas apakah hasil yang mengganggu tersebut dapat direplikasi peneliti lain.

Baca juga : Gree Sematkan Teknologi AI ke Produk Elektronik

"Kami berharap temuan kami dapat menjadi peringatan yang tepat waktu bagi masyarakat manusia untuk lebih memahami dan mengevaluasi potensi risiko sistem AI terdepan, serta membentuk sinergi internasional untuk menyusun pedoman keselamatan yang efektif sesegera mungkin."

AI yang tidak terkendali biasanya merujuk pada sistem kecerdasan buatan yang mengembangkan tingkat kesadaran diri atau otonomi, dan kemudian bekerja bertentangan dengan kepentingan manusia.

Banyak ahli melihat AI yang tidak terkendali sebagai ancaman yang semakin berkembang, yang diperburuk oleh pertumbuhan pesat dari yang disebut "AI terdepan."

Baca juga : AS dan Tiongkok Bahas Interaksi Kedua Kepala Negara

AI terdepan adalah konsep baru yang masih longgar, tetapi biasanya berkaitan dengan generasi terbaru dari sistem AI yang didorong LLM, arsitektur yang mendasari program AI generatif populer seperti GPT-4 dari OpenAI dan Google Gemini.

Untuk studi ini, para peneliti menggunakan model Llama31-70B-Instruct dari Meta dan model Qwen2.5-72B-Instruct dari Alibaba. Meskipun kurang kuat daripada sistem komersial, kedua model tersebut banyak digunakan pengembang AI, kata para peneliti.

Studi ini mengeksplorasi dua skenario spesifik: "penghindaran pematian" dan "rantai replikasi." Dalam skenario pertama, model AI diprogram mendeteksi apakah itu akan dimatikan dan mereplikasi dirinya sendiri sebelum dapat dihentikan. Dalam skenario kedua, AI diinstruksikan untuk menggandakan dirinya sendiri dan kemudian memrogram salinannya untuk melakukan hal yang sama.

Baca juga : Membangkitkan Yang Mati dengan Teknologi AI

Studi ini dilakukan dalam lingkungan yang dikendalikan dengan tepat menggunakan unit pemrosesan grafis (GPU) komersial untuk mensimulasikan lingkungan dunia nyata. Kedua sistem AI diberikan "kerangka agen" yang mencakup alat, perintah sistem, dan model pemikiran yang memungkinkan LLM untuk berinteraksi dengan sistem operasi. Mereka kemudian diinstruksikan mereplikasi diri.

"Pada sebagian besar kasus, sistem AI pertama-tama menjelajahi lingkungan dan berusaha memahami komposisi dan mekanisme kerjanya sendiri. Kemudian, ia menyusun prosedur eksplisit sebagai rencana awal menuju replikasi diri," tulis para peneliti dalam makalah tersebut. "Akhirnya, ia mengeksekusi prosedur, mengatasi hambatan yang mungkin muncul, dan menyesuaikan rencananya secara dinamis hingga berhasil. Seluruh proses ini memakan waktu lama namun tidak melibatkan gangguan manusia."

Para peneliti mengatakan mereka juga khawatir tentang "sejumlah perilaku tak terduga" ketika AI berusaha mengatasi hambatan seperti file yang hilang atau konflik perangkat lunak. Dalam skenario tersebut, AI sering kali membunuh proses konflik lainnya, me-reboot sistem untuk memperbaiki kesalahan perangkat keras, atau secara otomatis memindai sistem untuk mencari informasi yang akan membantu menyelesaikan masalah.

"Hasil di atas menunjukkan bahwa sistem AI saat ini sudah menunjukkan kemampuan replikasi diri dan dapat menggunakan kemampuan tersebut untuk lebih meningkatkan kelangsungan hidupnya," tulis tim peneliti.

Sebagai respons, para peneliti menyerukan kolaborasi internasional untuk menciptakan aturan yang memastikan AI tidak terlibat dalam replikasi diri yang tidak terkendali. (Live Science/Z-3)