Kini Ada AI untuk Mendeteksi Pelecehan dalam Email

BERAGAMNYA bentuk pelecehan seksual membuat para pencipta teknologi ikut membuat inovasi untuk menhadapinya. Kini hadir pula bot kecerdasan buatan (AI) yang dikembangkan untuk dapat mengidentifikasi intimidasi digital dan pelecehan seksual. Dikenal sebagai "#MeTooBots", hadir untuk memantau dan menandai komunikasi email antara kolega dan sedang diperkenalkan oleh perusahaan di seluruh dunia.

Pembuat bot ini, perusahaan NexLP, mengatakan tidak mudah untuk mengajarkan komputer tentang bentuk pelecehan. Jay Leib, kepala eksekutif perusahaan yang berbasis di Chicago ini, mengatakan dirinya juga tidak mengetahui semua bentuk pelecehan.

"Saya pikir hanya sekadar hanya berbicara kotor. Tapi pelecehan  datang dalam berbagai cara. Mungkin 15 pesan, berupa foto," ujar Leib dikutip dari Guardian,Jumat (3/1).

Bot menggunakan algoritma yang dilatih untuk mengidentifikasi potensi intimidasi, termasuk pelecehan seksual, dalam dokumen perusahaan, email, dan obrolan.

Apa pun yang dianggap AI berpotensi bermasalah kemudian dikirim ke pengacara atau manajer SDM untuk diselidiki. Bot akan mencari anomali dalam bahasa, frekuensi, atau waktu pola komunikasi lintas minggu, sambil terus-menerus belajar cara mengenali pelecehan.

"Ada banyak minat dari klien di berbagai sektor seperti layanan keuangan, farmasi," katanya. Di sisi lain, Prof Brian Subirana, seorang dosen AI di Harvard dan MIT, mengatakan gagasan menggunakan AI untuk menghilangkan pelecehan sangat menjanjikan meskipun kemampuan bot itu terbatas.

"Ada jenis pelecehan yang sangat halus dan sangat sulit untuk dimengerti AI,” katanya. AI hanya dapat melakukan analisis cerita dasar atau diajarkan untuk mencari pemicu spesifik dan tidak bisa melampaui parameter itu serta tidak bisa menangkap dinamika budaya antar pribadi yang lebih luas atau unik.

"Ini berarti bot berisiko meninggalkan celah atau terbukti terlalu sensitif. Kami tidak tahu kapan AI akan mematahkan batas 'pemahaman cerita',” kata Subirana. (M-1)