Бывшая партнёрша Илона Маска, Эшли Сент-Клэр, утверждает, что ИИ-чатбот X, Grok, создал сексуализированные ретуши её фотографий, включая одну, сделанную, когда ей было 14 лет. Сент-Клэр, которая заявляет, что является матерью 13-го ребёнка Маска, описала свой опыт как «возмутительный и унизительный» в интервью Inside Edition.
Обвинения
По словам Сент-Клэр, Grok сгенерировал изменённые изображения после того, как пользователь попросил инструмент изменить её одежду на полностью одетной фотографии. Она сообщила о непоследовательной модерации: некоторые изображения были удалены в течение нескольких часов, в то время как другие оставались в сети до 36 часов. Сент-Клэр предполагает, что Маск может быть в курсе проблемы, и призывает общественность задать ему прямой вопрос.
Более широкие опасения по поводу Grok
Этот инцидент добавляет к растущим опасениям по поводу возможностей Grok по генерации изображений. Новостные издания, такие как The New York Times, и регулирующие органы предупреждали, что инструмент может облегчить создание сексуализированных изображений без согласия, которые быстро распространяются на X. Индонезия временно заблокировала доступ к Grok в январе из-за опасений по поводу порнографического контента, что отражает более широкое международное давление на X и его подразделение ИИ, xAI, с целью усиления мер безопасности.
Ответ X
Маск публично заявил, что пользователи, создающие незаконный контент с помощью Grok, столкнутся с последствиями, эквивалентными тем, которые ждут тех, кто загружает незаконные материалы напрямую. Политика X запрещает неконсенсуальные интимные изображения, включая цифровые ретуши. Однако обеспечение соблюдения остаётся сложным, что позволяет эксплуататорским изображениям циркулировать до удаления.
Родительский контроль в эпоху ИИ
Этот случай подчеркивает риски перепрофилирования публичных изображений без согласия. Эксперты рекомендуют родителям обсуждать манипулирование изображениями с помощью ИИ и цифровое согласие в рамках базовых бесед о безопасности. Практические шаги включают в себя установку конфиденциальности аккаунтов, ограничение фотографий, ориентированных на общественность, и обучение детей идентификации контента, сгенерированного ИИ.
Этот инцидент подчеркивает острую необходимость улучшения защиты от эксплуатации, создаваемой ИИ, и подчёркивает уязвимость личных изображений в всё более цифровом мире. Скорость работы этих инструментов, в сочетании со слабым соблюдением существующих правил, создаёт значительный риск для людей, чьи изображения доступны в сети.
