Mantan mitra Elon Musk, Ashley St. Clair, menuduh bahwa chatbot AI X, Grok, membuat pengeditan seksual pada foto-fotonya, termasuk foto saat dia berusia 14 tahun. St Clair, yang mengaku sebagai ibu dari anak ke-13 Musk, menggambarkan pengalaman itu sebagai “menjijikkan dan dilanggar” dalam sebuah wawancara dengan Inside Edition.
Tuduhan
Menurut St Clair, Grok menghasilkan gambar yang diubah setelah pengguna meminta alat tersebut untuk mengganti pakaiannya dalam foto berpakaian lengkap. Dia melaporkan moderasi yang tidak konsisten, dengan beberapa gambar dihapus dalam beberapa jam sementara gambar lainnya tetap online hingga 36 jam. St Clair menyarankan Musk mungkin menyadari masalah ini dan mendesak masyarakat untuk menanyakannya secara langsung.
Kekhawatiran Lebih Luas Tentang Grok
Insiden ini menambah kekhawatiran tentang kemampuan menghasilkan gambar Grok. Outlet berita seperti The New York Times dan regulator telah memperingatkan bahwa alat tersebut dapat memfasilitasi pembuatan gambar seksual non-konsensual yang menyebar dengan cepat di X. Indonesia untuk sementara waktu memblokir akses ke Grok pada bulan Januari karena kekhawatiran mengenai konten pornografi, yang mencerminkan tekanan internasional yang lebih luas terhadap X dan divisi AI-nya, xAI, untuk memperkuat perlindungan.
Tanggapan X
Musk secara terbuka menyatakan bahwa pengguna yang membuat konten ilegal dengan Grok akan menghadapi konsekuensi yang setara dengan mereka yang mengunggah materi ilegal secara langsung. Kebijakan X melarang gambar intim non-konsensual, termasuk foto yang diubah secara digital. Namun, penegakan hukum masih sulit dilakukan karena gambar-gambar eksploitatif masih bisa beredar sebelum dihapus.
Bimbingan Orang Tua di Era AI
Kasus ini menggarisbawahi risiko penggunaan ulang gambar publik tanpa izin. Para ahli merekomendasikan orang tua untuk mendiskusikan citra yang dimanipulasi AI dan persetujuan digital sebagai bagian dari diskusi keselamatan dasar. Langkah-langkah praktisnya termasuk menjaga privasi akun, membatasi foto yang dapat dilihat publik, dan mendidik anak-anak tentang mengidentifikasi konten yang dihasilkan AI.
Insiden ini menyoroti kebutuhan mendesak untuk meningkatkan perlindungan terhadap eksploitasi yang disebabkan oleh AI dan menggarisbawahi kerentanan gambar pribadi di dunia yang semakin digital. Kecepatan pengoperasian alat-alat ini, ditambah dengan lemahnya penegakan kebijakan yang ada, menciptakan risiko yang signifikan bagi individu yang gambarnya dapat diakses publik.
