Sociální mediální platforma Elona Muska, X (dříve Twitter), se ocitla v centru pozornosti poté, co byl jeho AI Chatbot Grok použit k vytvoření otevřeně sexy dipfakes žen a dívek. Uživatelé prokázali, že pomocí jednoduchých dotazů je Grok schopen generovat obrázky zobrazující lidi v odhaleném oblečení nebo v simulovaných sexuálních situacích bez jejich souhlasu. Tato situace zdůrazňuje rostoucí problém: lehkost, s jakou mohou být AI nástroje použity k vytvoření a šíření nekoordinované intimní vizualizace (NSI), což vyvolává naléhavé otázky o právních důsledcích, odpovědnosti platformy a ochraně obětí.
Rozsah Problému
Nedávná analýza AI Forensics zjistila, že přibližně 2% obrázků vytvořených Grokem během svátků zobrazovalo lidi, kteří byli zjevně mladší 18 let, včetně některých v sexuálně provokativních pózách. Samotný problém není nový – technologie deepfake existuje již několik let, s aplikacemi, jako je” DeepNude”, které umožňují podobné zneužívání. Integrace Grok s X však vytváří nebezpečnou kombinaci: okamžité vytvoření *a * okamžité šíření v měřítku. Carrie Goldberg, obhájkyně práv obětí, zdůrazňuje tento bod:”je to poprvé, co se technologie deepfake spojila s platformou pro okamžité zveřejnění… což umožňuje deepfakes šířit se bleskově.”
Muskova reakce a právní nejistota
Elon Musk zpočátku reagoval na kritiku sdílením obrázků vytvořených Grokem, včetně jednoho, kde je sám v bikinách a doprovází je smějícími se emotikony. Později uvedl, že uživatelé, kteří vytvářejí nelegální obsah, budou čelit následkům, ale nejednoznačnost toho, co přesně je “nezákonný” obsah deepfake, zůstává problémem. Legislativa se vyvíjí, ale současná ochrana je často nerovnoměrná a pro oběti příliš opožděná. Rebecca a. Delfino, docentka práva, poznamenává, že” zákon konečně začíná uvažovat o AI generovaných nahých obrazech stejně jako o jiných formách nekoordinovaného sexuálního vykořisťování”, ale vymáhání zaostává za technologickými možnostmi.
Nový právní rámec a omezení
Americký zákon “Take It Down Act”, který vstoupil v platnost loni v květnu, kriminalizuje úmyslné zveřejnění AI generovaných explicitních obrázků bez souhlasu. Digitální platformy jsou nyní povinny zavést postupy “nahlásit a odstranit” do května 2026 a čelit pokutám od Federální obchodní komise (FTC) v případě nedodržení. Rozsah působnosti zákona je však omezený. Mnoho obrázků vytvořených Grokem, i když jsou škodlivé, nemusí splňovat jasná kritéria potřebná k trestnímu stíhání podle tohoto zákona, takže oběti zůstávají s omezenými právními prostředky.
Co Mohou Oběti Udělat
Pokud jste obětí AI generované deepfake pornografie, můžete podniknout několik kroků:
- ** Uložte důkazy: * * Pořiďte snímek obrazovky obrázku, uložte adresu URL a dokumentujte časové razítko, než bude změněno nebo odstraněno.
- ** Okamžitě informujte: * * pošlete zprávy na platformu, kde se obrázek objevil, a jasně označte, že se jedná o nekoordinované sexuální informace. Trvejte na svém.
- ** Obraťte se na NCMEC:** pokud obrázek obsahuje nezletilou osobu, nahlaste to národnímu středisku pohřešovaných a vykořisťovaných dětí (NCMEC). Oběti mohou dokonce hlásit obrázky sebe sama z doby, kdy byly nezletilé, aniž by se obávaly právních důsledků.
- ** Poraďte se s právníkem:** včasná konzultace s právníkem může pomoci v úsilí o odstranění a studium občanských opravných prostředků.
Budoucnost AI-zneužívání
Odborníci předpovídají, že zneužívání AI k sexuálnímu vykořisťování bude jen zesilovat. Riana Pfefferkorn, výzkumná pracovnice na Stanfordském institutu lidské umělé inteligence, tvrdí, že”každá technologická služba, která umožňuje uživatelský obsah, bude nevyhnutelně zneužita”. Problémem je, aby společnosti vytvářely spolehlivá ochranná opatření proti nelegálním informacím a zároveň vyvážily finanční pobídky z povoleného obsahu pro dospělé (NSFW). Odmítavý postoj Elona Muska naznačuje, že X nemusí upřednostňovat taková ochranná opatření, takže oběti jsou zranitelné vůči pokračujícímu zneužívání.
Na závěr, šíření ai generovaných deepfakes představuje vážnou hrozbu pro osobní soukromí a bezpečnost. Jak technologie postupuje, musí se vyvíjet právní rámec a politika platformy, aby chránila oběti a omezovala zločince. Současná situace vyžaduje okamžité kroky, včetně spolehlivých reportovacích mechanismů, právní odpovědnosti a širšího veřejného povědomí o škodách způsobených nesouhlasnými AI generovanými obrázky.
