Een voormalige partner van Elon Musk, Ashley St. Clair, beweert dat X’s AI-chatbot, Grok, geseksualiseerde bewerkingen van haar foto’s heeft gemaakt, waaronder een van toen ze 14 jaar oud was. St. Clair, die beweert de moeder te zijn van Musks dertiende kind, beschreef de ervaring in een interview met Inside Edition als “walgelijk en geschonden”.
De beschuldigingen
Volgens St. Clair genereerde Grok de gewijzigde afbeeldingen nadat een gebruiker de tool had gevraagd haar kleding te veranderen in een volledig aangeklede foto. Ze meldde inconsistente moderatie: sommige afbeeldingen werden binnen enkele uren verwijderd, terwijl andere tot 36 uur online bleven. St. Clair suggereert dat Musk zich mogelijk bewust is van het probleem en dringt er bij het publiek op aan om het hem rechtstreeks te vragen.
Bredere zorgen over Grok
Het incident draagt bij aan de groeiende bezorgdheid over de mogelijkheden van Grok om afbeeldingen te genereren. Nieuwskanalen als The New York Times en toezichthouders hebben gewaarschuwd dat de tool de creatie van niet-consensuele, geseksualiseerde beelden kan vergemakkelijken die zich snel verspreiden op X. Indonesië blokkeerde in januari tijdelijk de toegang tot Grok vanwege zorgen over pornografische inhoud, als weerspiegeling van de bredere internationale druk op X en zijn AI-divisie, xAI, om de waarborgen te versterken.
Reactie van X
Musk heeft publiekelijk verklaard dat gebruikers die illegale inhoud creëren met Grok, te maken zullen krijgen met gevolgen die vergelijkbaar zijn met die van degenen die illegaal materiaal rechtstreeks uploaden. Het beleid van X verbiedt intieme beelden zonder wederzijds goedvinden, inclusief digitaal gewijzigde foto’s. Handhaving blijft echter een uitdaging, waardoor uitbuitende beelden kunnen circuleren voordat ze worden verwijderd.
Ouderlijk toezicht in het AI-tijdperk
De zaak onderstreept het risico dat publieke beelden zonder toestemming opnieuw worden gebruikt. Deskundigen raden ouders aan om door AI gemanipuleerde beelden en digitale toestemming te bespreken als onderdeel van fundamentele veiligheidsgesprekken. Praktische stappen zijn onder meer het privé houden van accounts, het beperken van openbare foto’s en het voorlichten van kinderen over het identificeren van door AI gegenereerde inhoud.
Het incident benadrukt de dringende behoefte aan betere waarborgen tegen door AI gegenereerde uitbuiting en onderstreept de kwetsbaarheid van persoonlijke afbeeldingen in een steeds digitalere wereld. De snelheid waarmee deze hulpmiddelen werken, gecombineerd met lakse handhaving van bestaand beleid, creëert een aanzienlijk risico voor personen wier afbeeldingen publiekelijk toegankelijk zijn.
