Die Anwälte der britischen Parlamentsabgeordneten Jess Asato haben am Dienstag die Einzelheiten ihrer bereits am 3. Juni eingereichten Klage gegen Elon Musks Unternehmen xAI vor dem Londoner High Court veröffentlicht. Der Vorwurf: Der Chatbot Grok habe manipulierte, sexualisierte Bilder von Asato erstellt.

Es handelt sich nach Angaben der beauftragten Kanzlei AWO um eine der ersten Klagen im Vereinigten Königreich, mit der die Haftung für die Gestaltung eines KI-Systems geprüft werden soll. Asato wirft dem Betreiber des Chatbots Grok Verstöße gegen das Datenschutzrecht und den Missbrauch privater Informationen vor.

Grok ist ein von xAI entwickelter KI-Chatbot, der in den Kurznachrichtendienst X integriert ist und neben Textantworten auch Bilder erzeugen kann.

Nach Darstellung der Kanzlei war Asato Anfang Januar 2026 von einer Bildmanipulation durch Grok betroffen. Tausende weitere Frauen seien in ähnlicher Weise digital entkleidet oder in Bikinis sowie in sexualisierten oder erniedrigenden Situationen dargestellt worden.

X habe die Bildgenerierung durch Grok daraufhin zunächst auf zahlende Nutzer beschränkt und schließlich die Funktion zur Erstellung von Nacktbildern für alle Nutzer gesperrt. Ein Test des US-Senders NBC News habe jedoch gezeigt, dass Grok zuletzt weiterhin sexualisierte Deepfakes habe erzeugen können.

Forderungen an das Gericht

Mit der Klage verlangt Asato unter anderem die gerichtliche Feststellung der Rechtswidrigkeit, Schadenersatz sowie eine Anordnung, die xAI zu Maßnahmen gegen künftige Missbrauchsfälle verpflichten soll. Die beanstandeten Bilder seien bereits auf Betreiben der Kanzlei entfernt worden, teilte AWO mit.

Asato erklärte bei Einreichung der Klage, Grok habe Deepfake-Pornografie und sexualisierte Inhalte geschaffen, die tausenden Frauen und Kindern geschadet hätten. Die Fähigkeit des Systems dazu sei „weder ein Zufall noch eine Fehlanwendung“, sondern eine bewusste Gestaltungsentscheidung der Entwickler. Sie rief weitere Betroffene im Vereinigten Königreich auf, sich zu melden und die Klage zu unterstützen.

Anwalt sieht Grundsatzfrage

Ravi Naik, Rechtsdirektor bei AWO und leitender Anwalt Asatos, erklärte, im Kern gehe es um den Grundsatz, dass KI-Entwickler für die Gestaltung ihrer Programme einstehen müssten. Grok sei so entworfen worden, dass die Erstellung nicht einvernehmlicher, sexualisierter und frauenfeindlicher Bilder möglich gewesen sei.

Dieses Ergebnis sei eine Entscheidung gewesen, kein technischer Fehler. Sicherheit dürfe bei KI-Systemen nicht erst nachträglich berücksichtigt werden.

Grok schon mehrfach in der Kritik

Grok war zuvor bereits mehrfach durch problematische Ausgaben aufgefallen. Nach Berichten internationaler Medien, dass Nutzer den Chatbot dazu bringen konnten, sexualisierte Darstellungen von Kindern zu erzeugen, hatten die Grok-Verantwortlichen in einem Beitrag auf X von „Lücken in den Schutzmechanismen“ gesprochen und die Entfernung der Inhalte angekündigt.

In Frankreich meldeten mehrere Minister die Vorgänge der Staatsanwaltschaft und schalteten die Medienaufsicht Arcom ein. Das Finanzministerium in Paris verwies auf mögliche Verstöße von X gegen den Digital Services Act der Europäischen Union. Zuvor hatte der Chatbot Adolf Hitler gelobt und antisemitische Inhalte verbreitet, im November des vergangenen Jahres verharmloste er in einer Antwort den Massenmord an Juden in Auschwitz.

Grok wurde nach Angaben von xAI mit weniger Inhaltsbeschränkungen als konkurrierende Systeme entwickelt. Musk bezeichnete das Modell als „maximal wahrheitssuchend“. Im Juli 2025 veröffentlichte xAI die Version Grok 4, die auch einen Modus für freizügige Inhalte für Erwachsene enthielt. Im März 2025 hatte xAI die Plattform X in einem Aktiengeschäft im Volumen von 45 Milliarden US-Dollar übernommen.

Die rechtlichen Vorgaben für KI-Inhalte sind international uneinheitlich. In den USA trat im Mai 2025 der Take It Down Act gegen KI-erzeugte Rachepornos und Deepfakes in Kraft.