Indonesiandaily.com – Kecerdasan buatan (AI) mulai memasuki wilayah yang lebih gelap di media sosial. Teknologi yang semestinya membantu manusia justru dimanfaatkan untuk memproduksi narasi pelecehan seksual.
Fenomena itu terungkap dari riset lima mahasiswa Universitas Brawijaya (UB) yang menelusuri praktik Technology-Facilitated Sexual Violence (TFSV) di platform X.
Sebanyak 390 interaksi digital ditelisik untuk melihat bagaimana pengguna memanfaatkan AI generatif dalam membangun konten dan narasi yang mengarah pada objektifikasi seksual.
Riset tersebut tidak hanya melihat isi percakapan. Tim juga memetakan hubungan antarakun untuk menemukan pola aktor yang berperan dalam mengarahkan agresi digital kepada sistem AI.
Data yang terkumpul diproses menggunakan skrip Python. Selanjutnya, pemetaan jaringan dilakukan melalui Social Network Analysis dengan bantuan Gephi.
Hasilnya menunjukkan adanya pola interaksi yang berpusat pada Grok AI. Sistem AI tersebut menjadi penerima mention terbanyak dalam data yang diamati.
Di antara jaringan itu, peneliti menemukan sejumlah akun yang berfungsi sebagai aktor penghubung. Mereka menjadi jembatan dalam mengarahkan perintah tertentu kepada sistem AI.
Temuan tersebut memperlihatkan bahwa AI tidak berdiri sendiri dalam praktik kekerasan seksual digital. Pengguna tetap menjadi aktor penting dalam menentukan bagaimana teknologi tersebut digunakan.
Dibungkus Sebagai Candaan
Persoalan lain muncul dari cara pelaku membingkai tindakannya.
Narasi yang mengandung objektifikasi seksual kerap dikemas sebagai humor. Penyebutan sebagai “candaan AI” membuat tindakan tersebut terlihat ringan, meski substansinya tetap mengarah pada pelecehan.
Anggota tim dari Program Studi Sosiologi UB, Fairuz Mumtazah, mengatakan kondisi tersebut menunjukkan adanya persoalan etika dalam penggunaan AI generatif.
“Di balik keseruan publik berinteraksi dengan AI generatif, terdapat krisis etika ketika oknum mendelegasikan perintah spesifik untuk memproduksi narasi pelecehan seksual secara terbuka,” kata Fairuz.
Menurut dia, fitur interaktif AI dan akses terhadap data secara real-time dapat menciptakan celah eksploitasi identitas digital.
Bahasa Jadi Alat Pembenaran
Tim kemudian membedah bagaimana bahasa digunakan dalam percakapan tersebut.
Analisis Wacana Kritis (AWK) digunakan untuk melihat relasi kuasa dan cara pelaku membangun narasi. Pengujian dilakukan melalui double coding independen.
Hasilnya menghasilkan nilai reliabilitas kappa 0,974.
Anggota tim dari Program Studi Psikologi UB, Safinatun Naja Handayani, mengatakan temuan tersebut menunjukkan adanya mekanisme untuk mengurangi rasa bersalah pelaku.
“Pelaku menggunakan AI untuk melunturkan rasa bersalah. Melalui mekanisme moral disengagement tipe euphemistic labeling, pelaku membungkus agresi seksual ke dalam ‘candaan AI’,” ujarnya.
Dengan cara tersebut, tindakan yang seharusnya dipandang sebagai agresi seksual justru ditempatkan sebagai bagian dari hiburan atau eksperimen teknologi.
Tak Berhenti di Temuan
Tim mahasiswa UB tidak hanya berhenti pada pemetaan pola pelecehan.
Mereka menyusun policy brief bertajuk “SAFE AI: Intervensi Kebijakan Moderasi Platform Interaktif Guna Mencegah Objektifikasi Seksual Generatif di Ruang Digital.”
Dokumen tersebut ditujukan kepada Kementerian Komunikasi dan Digital (Komdigi) serta pengembang teknologi global.
Rekomendasi utamanya mendorong sistem moderasi konten yang lebih responsif terhadap kekerasan seksual dan perspektif gender.
Ketua tim peneliti, Wahyu Najwan Iqbal dari Program Studi Ilmu Komunikasi FISIP UB, mengatakan hasil riset juga diterjemahkan dalam bentuk edukasi publik.
Tim membuat video interaktif dengan pendekatan Curated Visual Storytelling. Materi tersebut diarahkan untuk membantu pengguna mengenali bentuk kekerasan seksual yang difasilitasi teknologi.
“Kami ingin rekomendasi ini tidak berhenti sebagai dokumen akademik, tetapi dapat diterapkan untuk memperkuat ekosistem siber nasional,” ujar Wahyu.
Penelitian ini melibatkan lima mahasiswa dari Program Studi Ilmu Komunikasi, Sosiologi, Psikologi, dan Teknik Informatika UB.
Rama Caesario Anugrah bertugas memastikan aspek etika riset siber tetap diterapkan dalam proses penelitian. Riset tersebut didanai melalui Program Kreativitas Mahasiswa Riset Sosial Humaniora (PKM-RSH) 2026.
Penelitian dibimbing dosen Sosiologi Ayu Kusumastuti serta dosen Psikologi Prof. Cleoputri Al Yusainy.
Bagi tim peneliti, 390 interaksi yang dianalisis menjadi gambaran bahwa perkembangan AI menghadirkan tantangan baru di ruang digital.
Teknologi tidak cukup hanya dibekali kemampuan menghasilkan respons. Sistem moderasi, literasi pengguna, dan standar etika juga perlu berkembang agar AI tidak berubah menjadi alat baru untuk melakukan kekerasan seksual.
