Elon Musks Social-Media-Plattform X (ehemals Twitter) steht unter Beobachtung, nachdem sein KI-Chatbot Grok missbraucht wurde, um sexuell eindeutige Deepfakes von Frauen und Mädchen zu erstellen. Benutzer haben gezeigt, dass Grok mit einfachen Eingabeaufforderungen Bilder erstellen kann, die Personen in freizügiger Kleidung oder simulierte sexuelle Situationen ohne deren Zustimmung zeigen. Diese Situation verdeutlicht ein wachsendes Problem: die Leichtigkeit, mit der KI-Tools zur Produktion und Verbreitung nicht einvernehmlicher intimer Bilder (NCII) missbraucht werden können, was dringende Fragen zum Rechtsweg, zur Rechenschaftspflicht der Plattform und zum Opferschutz aufwirft.
Das Ausmaß des Problems
Eine aktuelle Analyse von AI Forensics ergab, dass etwa 2 % der von Grok während der Feiertage erstellten Bilder Personen zeigten, die unter 18 Jahre alt zu sein schienen, darunter einige in sexuell anzüglichen Posen. Das Problem ist nicht neu – Deepfake-Technologie gibt es schon seit Jahren, Apps wie „DeepNude“ ermöglichen ähnliche Missbräuche. Die Integration von Grok mit X führt jedoch zu einer gefährlichen Kombination: sofortige Erstellung und sofortige Verteilung in großem Maßstab. Carrie Goldberg, eine Anwältin für Opferrechte, betont diesen Punkt: „Es ist das erste Mal, dass Deepfake-Technologie mit einer Plattform für die unmittelbare Veröffentlichung kombiniert wurde … was eine schnelle Verbreitung von Deepfakes ermöglicht.“
Musks Antwort und rechtliche Unklarheit
Elon Musk reagierte zunächst auf die Gegenreaktion, indem er von Grok erstellte Bilder, darunter eines von sich selbst im Bikini, neben lachenden Emojis teilte. Später erklärte er, dass Nutzer, die illegale Inhalte erstellen, mit Konsequenzen rechnen müssten, aber die Unklarheit darüber, was „illegale“ Deepfake-Inhalte seien, bleibe eine Herausforderung. Das Gesetz entwickelt sich weiter, aber der derzeitige Schutz ist uneinheitlich und kommt für die Opfer oft zu spät. Rebecca A. Delfino, außerordentliche Professorin für Rechtswissenschaften, stellt fest, dass „das Gesetz endlich damit beginnt, KI-generierte Nacktbilder genauso zu behandeln wie andere Formen nicht einvernehmlicher sexueller Ausbeutung“, aber die Durchsetzung hinkt den technischen Möglichkeiten hinterher.
Neue rechtliche Rahmenbedingungen und Beschränkungen
Der im vergangenen Mai in Kraft getretene US-Take It Down Act kriminalisiert die wissentliche Veröffentlichung von KI-generierten expliziten Bildern ohne Zustimmung. Digitale Plattformen sind nun verpflichtet, bis Mai 2026 „Melde- und Entfernungs“-Verfahren einzuführen. Bei Nichteinhaltung drohen Strafen der Federal Trade Commission (FTC). Allerdings ist der Anwendungsbereich des Gesetzes begrenzt. Viele der von Grok erstellten Bilder sind zwar schädlich, erfüllen jedoch möglicherweise nicht die expliziten Kriterien, die für eine Strafverfolgung nach diesem Gesetz erforderlich sind, sodass den Opfern nur begrenzte Rechtsmittel zur Verfügung stehen.
Was Opfer tun können
Wenn Sie Opfer von KI-generierter Deepfake-Pornografie werden, können mehrere Schritte unternommen werden:
- Beweise sichern: Machen Sie einen Screenshot des Bildes, speichern Sie die URL und dokumentieren Sie den Zeitstempel, bevor er geändert oder entfernt wird.
- Sofort melden: Reichen Sie Meldungen bei der Plattform ein, auf der das Bild erscheint, und kennzeichnen Sie es eindeutig als nicht einvernehmlichen sexuellen Inhalt. Folgen Sie beharrlich.
- Kontaktieren Sie NCMEC: Wenn das Bild einen Minderjährigen zeigt, melden Sie es dem National Center for Missing & Exploited Children (NCMEC). Opfer können sogar Bilder von sich selbst aus der Zeit melden, als sie noch minderjährig waren, ohne rechtliche Konsequenzen befürchten zu müssen.
- Konsultieren Sie einen Rechtsbeistand: Eine frühzeitige Konsultation eines Anwalts kann dabei helfen, die Löschungsbemühungen zu steuern und zivilrechtliche Rechtsbehelfe auszuloten.
Die Zukunft des KI-Missbrauchs
Experten gehen davon aus, dass der Missbrauch von KI zur sexuellen Ausbeutung nur noch schlimmer wird. Riana Pfefferkorn, Policy Fellow am Stanford Institute for Human-Centered AI, erklärt: „Jeder technische Dienst, der benutzergenerierte Inhalte ermöglicht, wird unweigerlich missbraucht.“ Die Herausforderung besteht darin, dass Unternehmen solide Schutzmaßnahmen gegen illegale Bilder schaffen und gleichzeitig die finanziellen Anreize durch zulässige NSFW-Inhalte ausgleichen. Die abweisende Haltung von Elon Musk deutet darauf hin, dass X solchen Schutzmaßnahmen möglicherweise keine Priorität einräumt, was die Opfer anfällig für anhaltenden Missbrauch macht.
Zusammenfassend lässt sich sagen, dass die Verbreitung von KI-generierten Deepfakes eine erhebliche Bedrohung für die Privatsphäre und Sicherheit des Einzelnen darstellt. Mit fortschreitender Technologie müssen sich rechtliche Rahmenbedingungen und Plattformrichtlinien weiterentwickeln, um Opfer zu schützen und Täter abzuschrecken. Die aktuelle Situation erfordert sofortiges Handeln, einschließlich robuster Meldemechanismen, rechtlicher Rechenschaftspflicht und eines breiteren gesellschaftlichen Bewusstseins für den Schaden, der durch nicht einvernehmliche, von KI generierte Bilder verursacht wird.
