Kejaksaan California Dikecam Setelah Gunakan AI Berisi “Halusinasi” dalam Dokumen Hukum

KANTOR kejaksaan di California memicu kekhawatiran setelah terungkap menggunakan kecerdasan buatan (AI) untuk menyusun dokumen hukum dalam setidaknya satu kasus pidana. Diketahui dokumen itu mengandung kesalahan berupa kutipan tidak akurat atau “halusinasi” AI.

Jaksa wilayah Nevada County, Jesse Wilson, mengonfirmasi seorang jaksa di kantornya “baru-baru ini menggunakan kecerdasan buatan dalam menyiapkan sebuah dokumen, yang menghasilkan kutipan tidak akurat”.
“Setelah kesalahan ditemukan, dokumen tersebut langsung ditarik,” ujar Wilson dalam pernyataannya kepada Sacramento Bee.

Namun, pengacara pembela dan kelompok hak sipil menilai kantor kejaksaan menggunakan AI dalam lebih banyak dokumen pengadilan pidana.

Baca juga : AI Hanya Alat Bantu, Tetap Butuh Arahan yang Jelas Dari Penggunanya

Pada Oktober lalu, tim kuasa hukum Kyle Kjoller mengajukan permohonan kepada Pengadilan Banding Distrik Ketiga agar kejaksaan dikenai sanksi akibat sejumlah kesalahan dalam berkas penuntutan. Kjoller diwakili pengacara publik serta organisasi nirlaba Civil Rights Corps. Permohonan sanksi itu ditolak tanpa penjelasan.

Tak berhenti di situ, tim pembela menemukan kesalahan serupa pada berkas lain yang diajukan kantor kejaksaan dalam kasus berbeda. Upaya banding berikutnya juga ditolak setelah Kjoller dinyatakan bersalah dalam kasusnya.

Pengacara Kjoller kemudian mengajukan petisi ke Mahkamah Agung California, mengidentifikasi tiga perkara yang menurut mereka memuat kesalahan khas AI generatif. Pengadilan tertinggi negara bagian itu belum memutuskan apakah akan memeriksa kasus tersebut.

Baca juga : ChatGPT, Teman Belajar atau Ancaman Perkembangan Kognitif Anak?

“Ketergantungan jaksa pada otoritas hukum yang tidak akurat dapat melanggar aturan etika dan menjadi ancaman serius bagi hak proses hukum terdakwa serta legitimasi pengadilan,” tulis kuasa hukum Kjoller. Dalam pengajuan mereka, para pengacara itu menyertakan contoh kutipan yang tidak pernah ada atau interpretasi keliru terhadap putusan, jenis kesalahan yang umum dihasilkan AI.

Pada Jumat, sebanyak 22 akademisi, pengacara, dan advokat peradilan pidana mengajukan amicus brief untuk mendukung permohonan tim Kjoller di Mahkamah Agung California.

Kantor kejaksaan mengakui penggunaan AI dalam satu dokumen, tetapi menegaskan bukan pada kasus Kjoller. Wilson menyebut kesalahan lain merupakan “human error”.

“Jaksa bekerja dengan sungguh-sungguh di bawah beban kasus berat dan tekanan waktu,” kata Wilson. “Tidak bisa serta merta diasumsikan setiap kesalahan kutipan berasal dari penggunaan AI.”

Ia menambahkan, “Tidak pernah ada niat menyesatkan pengadilan, dan tuduhan sebaliknya tidak sesuai fakta.” Setelah kesalahan teridentifikasi, seluruh staf diingatkan agar memverifikasi kutipan hukum secara mandiri dan tidak mengandalkan materi yang dihasilkan AI tanpa konfirmasi dari sumber tepercaya.

Dalam pernyataan kepada New York Times, Wilson mengatakan kantornya kini telah mengadakan pelatihan baru dan menerapkan kebijakan khusus terkait penggunaan AI.

Kasus California ini diyakini menjadi contoh pertama di Amerika Serikat di mana kantor kejaksaan menggunakan AI generatif dalam dokumen pengadilan. Beberapa pengacara di Kanada, Australia, Inggris, dan AS sebelumnya pernah didenda karena penggunaan AI yang keliru, tetapi jarang yang berasal dari pihak penuntut. Menurut basis data yang dikelola HEC Paris, hanya satu kasus lain di dunia, di Israel, yang dokumennya dibuat oleh jaksa menggunakan AI. (The Guardian/Z-2)