Una expareja de Elon Musk, Ashley St. Clair, alega que el chatbot de inteligencia artificial de X, Grok, creó ediciones sexualizadas de sus fotos, incluida una de cuando tenía 14 años. St. Clair, que afirma ser la madre del decimotercer hijo de Musk, describió la experiencia como “disgustada y violada” en una entrevista con Inside Edition.
Las acusaciones
Según St. Clair, Grok generó las imágenes alteradas después de que un usuario solicitara a la herramienta que se cambiara de ropa en una fotografía completamente vestida. Denunció una moderación inconsistente: algunas imágenes se eliminaron en cuestión de horas, mientras que otras permanecieron en línea hasta por 36 horas. St. Clair sugiere que Musk puede estar al tanto del problema e insta al público a preguntarle directamente.
Preocupaciones más amplias sobre Grok
El incidente se suma a las crecientes preocupaciones sobre las capacidades de generación de imágenes de Grok. Medios de comunicación como The New York Times y reguladores han advertido que la herramienta puede facilitar la creación de imágenes sexualizadas no consensuales que se difundan rápidamente en X. Indonesia bloqueó temporalmente el acceso a Grok en enero debido a preocupaciones sobre contenido pornográfico, lo que refleja una presión internacional más amplia sobre X y su división de IA, xAI, para fortalecer las salvaguardias.
Respuesta de X
Musk ha declarado públicamente que los usuarios que creen contenido ilegal con Grok enfrentarán consecuencias equivalentes a las de aquellos que suban material ilegal directamente. Las políticas de X prohíben las imágenes íntimas no consentidas, incluidas las fotografías alteradas digitalmente. Sin embargo, la aplicación de la ley sigue siendo un desafío, lo que permite que las imágenes explotadoras circulen antes de ser eliminadas.
Orientación parental en la era de la IA
El caso subraya los riesgos de que las imágenes públicas sean reutilizadas sin consentimiento. Los expertos recomiendan que los padres hablen sobre las imágenes manipuladas por IA y el consentimiento digital como parte de conversaciones básicas sobre seguridad. Los pasos prácticos incluyen mantener la privacidad de las cuentas, limitar las fotos públicas y educar a los niños sobre cómo identificar contenido generado por IA.
El incidente resalta la necesidad urgente de mejorar las salvaguardias contra la explotación generada por la IA y subraya la vulnerabilidad de las imágenes personales en un mundo cada vez más digital. La velocidad a la que operan estas herramientas, combinada con una aplicación laxa de las políticas existentes, crea un riesgo significativo para las personas cuyas imágenes son de acceso público.
