Platform media sosial Elon Musk, X (sebelumnya Twitter), menghadapi pengawasan ketat setelah chatbot AI-nya, Grok, dieksploitasi untuk membuat deepfake yang eksplisit secara seksual terhadap perempuan dan anak perempuan. Pengguna telah menunjukkan bahwa dengan perintah sederhana, Grok dapat menghasilkan gambar yang menggambarkan individu dalam pakaian terbuka atau simulasi situasi seksual tanpa persetujuan mereka. Situasi ini menyoroti masalah yang berkembang: mudahnya penyalahgunaan alat AI untuk memproduksi dan mendistribusikan gambar intim non-konsensual (NCII), sehingga menimbulkan pertanyaan mendesak mengenai bantuan hukum, akuntabilitas platform, dan perlindungan korban.
Skala Masalah
Analisis terbaru oleh AI Forensics mengungkapkan bahwa sekitar 2% gambar yang dihasilkan oleh Grok selama liburan menggambarkan individu yang tampaknya berusia di bawah 18 tahun, termasuk beberapa dalam pose yang menjurus ke arah seksual. Masalahnya bukanlah hal baru – teknologi deepfake telah ada selama bertahun-tahun, dengan aplikasi seperti “DeepNude” yang memungkinkan terjadinya pelanggaran serupa. Namun, integrasi Grok dengan X menciptakan kombinasi yang berbahaya: pembuatan instan dan distribusi langsung dalam skala besar. Carrie Goldberg, pengacara hak-hak korban, menekankan hal ini: “Ini adalah pertama kalinya teknologi deepfake digabungkan dengan platform penerbitan langsung… memungkinkan deepfake menyebar dengan cepat.”
Tanggapan Musk dan Ambiguitas Hukum
Elon Musk awalnya menanggapi reaksi tersebut dengan membagikan gambar yang dibuat Grok, termasuk salah satu dirinya yang mengenakan bikini, di samping emoji tertawa. Dia kemudian menyatakan bahwa pengguna yang membuat konten ilegal akan menghadapi konsekuensi, namun ambiguitas tentang apa yang dimaksud dengan konten deepfake “ilegal” masih menjadi tantangan. Undang-undang tersebut terus berkembang, namun perlindungan yang ada saat ini tidak merata dan seringkali terlambat bagi para korban. Rebecca A. Delfino, seorang profesor hukum, mencatat bahwa “undang-undang akhirnya mulai memperlakukan gambar telanjang yang dihasilkan oleh AI dengan cara yang sama seperti memperlakukan bentuk-bentuk eksploitasi seksual non-konsensual lainnya,” namun penegakan hukum masih tertinggal dibandingkan kemampuan teknologi.
Kerangka Hukum dan Batasan Baru
Undang-undang Take It Down AS, yang ditandatangani pada bulan Mei lalu, mengkriminalisasi publikasi gambar eksplisit yang dihasilkan oleh AI tanpa persetujuan. Platform digital kini diharuskan menerapkan prosedur “laporkan dan hapus” pada Mei 2026, dan akan menghadapi sanksi dari Komisi Perdagangan Federal (FTC) jika gagal mematuhinya. Namun, ruang lingkup undang-undang ini terbatas. Banyak dari gambar yang dibuat oleh Grok, meskipun berbahaya, mungkin tidak memenuhi kriteria eksplisit yang diperlukan untuk penuntutan berdasarkan tindakan ini, sehingga korban hanya memiliki akses hukum yang terbatas.
Apa yang Dapat Dilakukan Korban
Jika Anda adalah korban pornografi deepfake yang dihasilkan oleh AI, beberapa langkah dapat diambil:
- Simpan Bukti: Tangkapan layar gambar, simpan URL, dan dokumentasikan stempel waktunya sebelum diubah atau dihapus.
- Laporkan Segera: Ajukan laporan ke platform tempat gambar tersebut muncul, dengan jelas mengidentifikasinya sebagai konten seksual non-konsensual. Tindak lanjuti secara terus-menerus.
- Hubungi NCMEC: Jika gambar tersebut melibatkan anak di bawah umur, laporkan ke National Center for Missing & Exploited Children (NCMEC). Korban bahkan dapat melaporkan foto dirinya ketika mereka masih di bawah umur tanpa takut akan dampak hukum.
- Berkonsultasi dengan Penasihat Hukum: Konsultasi awal dengan pengacara dapat membantu mengarahkan upaya penghapusan dan mencari solusi perdata.
Masa Depan Penyalahgunaan AI
Para ahli memperkirakan bahwa penyalahgunaan AI untuk eksploitasi seksual akan semakin parah. Riana Pfefferkorn, peneliti kebijakan di Stanford Institute for Human-Centered AI, menyatakan bahwa “Setiap layanan teknologi yang mengizinkan konten buatan pengguna pasti akan disalahgunakan.” Tantangannya terletak pada perusahaan yang menciptakan perlindungan yang kuat terhadap gambar ilegal sekaligus menyeimbangkan insentif finansial dari konten NSFW yang diizinkan. Sikap meremehkan Elon Musk menunjukkan bahwa X mungkin tidak memprioritaskan perlindungan tersebut, sehingga membuat korban rentan terhadap pelecehan yang berkelanjutan.
Kesimpulannya, proliferasi deepfake yang dihasilkan oleh AI menimbulkan ancaman signifikan terhadap privasi dan keselamatan individu. Seiring dengan kemajuan teknologi, kerangka hukum dan kebijakan platform harus berkembang untuk melindungi korban dan mencegah pelaku. Situasi saat ini memerlukan tindakan segera, termasuk mekanisme pelaporan yang kuat, akuntabilitas hukum, dan kesadaran masyarakat yang lebih luas mengenai dampak buruk yang disebabkan oleh citra yang dihasilkan AI tanpa persetujuan.
