Oleh: Siti Farhatun Nafis Azhari
Kecerdasan buatan atau Artificial Intelligence (AI) menawarkan berbagai kemudahan di zaman yang menuntut segala sesuatu serba cepat. Melalui otomatisasi, efisiensi analisis data, personalisasi layanan, hingga dukungan di sektor transportasi dan kesehatan, AI menjadi bagian penting dalam kehidupan modern. Salah satu fitur yang paling mudah dijumpai adalah image generator, yakni teknologi sintesis gambar yang dapat merekayasa visual hanya dengan memberikan command kepada AI. Dengan adanya fitur ini, penggunaan AI mendapatkan sejumlah manfaat, seperti peningkatan kreativitas, efisiensi kerja, dan penghematan waktu.
Namun demikian, berbagai kemudahan tersebut juga turut membuka peluang terjadinya penyalahgunaan oleh pihak yang tidak bertanggung jawab. Salah satu bentuk penyimpangan yang paling mencolok adalah penggunaan deepfake, yakni media sintesis berbasis AI yang mampu memanipulasi gambar, video, atau suara seseorang. Teknologi ini kerap disalahgunakan untuk penipuan dan penyebaran disinformasi. Dalam praktiknya, teknologi ini juga menjadi alat baru pelecehan seksual digital. Baru-baru ini, tren “put her in a bikini” yang berkembang masif di platform X menunjukkan bagaimana perempuan dan anak-anak dijadikan objek tanpa persetujuan melalui manipulasi visual yang mengubah mereka menjadi komoditas visual untuk konsumsi publik.
Menurut laporan The Guardian tertanggal 8 Januari 2026, terdapat sekitar 6.000 permintaan per jam di platform X untuk menciptakan gambar perempuan berbikini yang kemudian dimodifikasi menjadi semakin eksplisit, seperti penggunaan elemen visual yang membuat busana lebih terbuka hingga pose yang bersifat sugestif. Permintaan ini menjadi semakin ekstrem ketika para pengguna yang umumnya merupakan laki-laki, mulai menuntut untuk menampilkan unsur luka fisik pada gambar yang dihasilkan. Fenomena ini memunculkan kekhawatiran bahwa penggunaan AI tidak sekedar memproduksi fantasi seksual, melainkan juga memfasilitasi kekerasan simbolik yang semakin ekstrem.
Praktik seperti ini bukan sekedar penyalahgunaan teknologi, tetapi juga merupakan bentuk kekerasan seksual digital. Di titik inilah muncul moral gap, yakni jarak etis yang membuat pelaku merasa tidak bertanggung jawab karena kekerasan dilakukan melalui algoritma, dengan dalih bahwa gambar tersebut hanya buatan AI.
Lonjakan penggunaan AI untuk pelecehan siber memperlihatkan bahwa fenomena ini bukan terjadi secara kebetulan. Data Surfshark mencatat bahwa sepanjang tahun 2017 hingga 2022 terdapat 22 insiden pelecehan siber berbasis AI. Angka tersebut kemudian meningkat menjadi 42 insiden pada tahun 2023, lalu melonjak drastis sebesar 257 persen pada tahun 2024 hingga mencapai 150 insiden. Tren global bahkan memperkirakan jumlah konten deepfake pornografi mencapai jutaan pada tahun 2025 dan terus meningkat pada tahun 2026 seiring semakin mudahnya akses teknologi generatif.
Di Indonesia, Kementerian Komunikasi dan Digital (Komdigi) mencatat lonjakan konten deepfake mencapai hingga sekitar 550 persen dalam lima tahun terakhir sejak tahun 2019. Peningkatan ini tidak hanya mencerminkan perkembangan teknologi AI, tetapi juga menunjukkan semakin besarnya potensi penyalahgunaan visual. Lebih lanjut, Komisi Nasional (Komnas) Perempuan dan sejumlah organisasi masyarakat sipil melaporkan bahwa kekerasan berbasis gender di ranah digital terus mengalami peningkatan, dengan perempuan dan anak-anak sebagai kelompok yang paling rentan terdampak. Pertanyaannya kemudian, mengapa perempuan hampir selalu menjadi sasaran utama?
Fakta menjukkan bahwa hal yang membuat lebih dari 95 persen konten pornografi berbasis deepfake di internet menargetkan tubuh perempuan dikarenakan sistem AI dilatih menggunakan kumpulan data yang mencerminkan budaya digital yang sejak lama mengobjektifikasi tubuh perempuan. Ketika internet dipenuhi representasi perempuan sebagai objek visual, algoritma menyerap bias tersebut sebagai pola standar. Dengan demikian, dapat disimpulkan bahwa AI tidak berdiri sebagai entitas yang netral, ia bekerja berdasarkan data yang tersedia. Jika banyak data yang tersedia serat akan bias gender khususnya terhadap perempuan, maka AI berpotensi menghasilkan penyebaran misoginis, bahkan mempercepat penyebarannya.
Dampak praktik ini tidak hanya berhenti pada ranah visual, tetapi juga psikologis korban. Manipulasi tubuh tanpa persetujuan dapat merampas sense of agency korban, yaitu rasa memiliki kontrol atas diri dan identitasnya sendiri. Banyak korban melaporkan kecemasan, rasa malu, ketakutan akan stigma sosial, hingga trauma berkepanjangan.
Kasus di Korea Selatan memperlihatkan dampak nyata dari fenomena ini. Pada tahun 2024, ratusan kasus deepfake pornografi dilaporkan. Banyak di antaranya menargetkan pelajar dan perempuan muda. Korban menemukan wajah mereka ditempelkan pada tubuh tanpa busana dan disebarkan secara daring, sering kali hal ini dilakukan oleh orang yang mereka kenal. Dampaknya, banyak korban mengalami tekanan psikologis, pengucilan sosial, hingga ancaman terhadap keamanan pribadi.
Fenomena serupa juga terjadi di Indonesia. Dilansir dari ANTARA, pada Januari 2026 seorang mahasiswa ditetapkan sebagai tersangka dalam kasus pembuatan konten pornografi berbasis deepfake. Pelaku memanipulasi wajah sejumlah siswi SMA ke dalam konten cabul dan menyebarkannya melalui media sosial. Kasus ini memperlihatkan bahwa kekerasan seksual digital berbasis AI telah menyasar ruang sosial dan pendidikan di Indonesia.
Namun, sangat disayangkan hingga saat ini kerangka hukum belum sepenuhnya mampu mengimbangi kecepatan teknologi. Di Indonesia, belum ada regulasi yang secara spesifik mengatur pembuatan deepfake pornografi. Undang-undang seperti UU ITE dan UU pornografi lebih banyak menjerat penyebaran konten, bukan proses penciptaannya. Kekosongan ini membuat korban berada dalam posisi rentan, sementara pelaku memanfaatkan celah regulasi dan anonimitas teknologi.
Meski demikian, Indonesia tidak sepenuhnya berdiam diri. Indonesia tercatat sebagai negara pertama yang melakukan pemblokiran sementara terhadap layanan AI yang digunakan dalam tren “put her in a bikini”, langkah ini dilakukan sebagai upaya untuk membatasi penyebaran konten manipulatif yang menargetkan perempuan dan anak-anak. Meski bersifat administratif dan sementara, langkah tersebut menunjukkan upaya negara untuk terus bekerja mengurangi dampak kekerasan seksual digital.
Pada akhirnya, fenomena ini bukan hanya tentang kecanggihan teknologi, melainkan tentang nilai dan batas etis yang menyertainya. Ketika tubuh perempuan dapat direkayasa dan dimanipulasi hanya melalui perintah teks, masalah utamanya bukan lagi pada kemampuan teknologi tersebut, melainkan normalisasi praktik yang merugikan perempuan dan minimnya perlindungan terhadap korban di ruang digital.
Redaktur: Muhassanah Nasution
Leave a comment