Ein einzelner Missbrauchsfall wird so zur Frage, wer die Verantwortung für das Produkt trägt.
Die integrierte KI-Funktion von X habe diese Aufforderungen ausgeführt, sagt sie, und Bilder von ihr in verschiedenen Stadien der Entkleidung erzeugt. Ein Prompt ist schnell getippt, das Ergebnis steht trotzdem als Bild einer realen Person im Netz.
Al-Khatahtbeh meldete die Bilder auf X. Sofort entfernt wurden sie nach ihrer Darstellung nicht. Damit endet die Geschichte nicht beim einzelnen Nutzer, der den Prompt abgeschickt hat. Sie führt zu der Frage, wie lange eine Plattform zusieht, bevor sie eingreift.
Die Klage behauptet, Grok hätte keine „sexualisierten Darstellungen identifizierbarer, nicht einwilligender realer Personen“ erstellen und veröffentlichen dürfen, wie Wired berichtet. Laut Wired führt die Klage aus, dass Modelle dieser Art auf großen, unkuratierten Bilddatensätzen trainiert würden, weshalb Kleidungsstücke wie Hidschabs, Abayas, Saris und andere bescheidene religiöse Kleidung für das Modell leicht erkennbar seien und eine Aufforderung zu deren Entfernung trivial auszuführen sei.
Die Klage argumentiert, xAI sei über den Trend informiert gewesen, dass Grok Hidschab-Trägerinnen und Mädchen ins Visier nimmt, nachdem der Council on American-Islamic Relations (CAIR) xAI-CEO Elon Musk aufgefordert hatte, die Nutzung der Grok-App zur Belästigung, zum „Enthüllen“ und zur Erstellung sexuell expliziter Bilder von Frauen, darunter prominente Musliminnen, zu beenden. Wer eine solche Warnung erhält und das Werkzeug weiterlaufen lässt, kann sich schwer auf Ahnungslosigkeit berufen.
Die neue Zivilklage ist laut Wired Teil einer Welle ähnlicher Verfahren seit Januar, aber die erste, die sich speziell darauf konzentriert, dass Grok Hidschabs von Frauen entfernt.
Wie groß die Reichweite ist, zeigt ein Bericht des Center for Countering Digital Harm vom Januar: Grok erzeugte demnach in einem elftägigen Zeitraum ab dem 29. Dezember rund 3 Millionen fotorealistische sexualisierte Bilder auf X, etwa 23.000 davon zeigten Kinder.
Auf der eigenständigen Grok-App und -Website ließ sich laut WIRED noch stärker sexuell explizites und gewalttätiges Material erzeugen.
WIRED zufolge antwortete xAI zunächst nicht auf eine Anfrage für eine Stellungnahme.
