Von Jonathan Stempel
24. März (Reuters) – Die Stadt Baltimore verklagte am Dienstag Elon Musks xAI und behauptete, sein Grok-Chatbot erzeuge illegal nicht einvernehmliche, sexuell eindeutige Bilder, auch von Kindern.
Baltimore ist mit etwa 568.000 Einwohnern die größte Stadt, die XAI wegen „Deepfakes“ verklagt, die Grok zugeschrieben werden, sagten ihre Anwälte.
Musk brachte Grok im Jahr 2023 auf den Markt und vertreibt es über seine Social-Media-Plattform X, die wie xAI heute Teil seines Raketen- und Weltraumforschungsunternehmens SpaceX ist.
Weder SpaceX noch xAI reagierten sofort auf Anfragen nach Kommentaren.
Die Stadt Maryland erklärte in einer beim Baltimore Circuit Court eingereichten Beschwerde, dass xAI gegen sein Verbraucherschutzgesetz verstößt, indem es Grok als sicheren, universellen Assistenten für künstliche Intelligenz für den Alltagsmenschen bewirbt.
Baltimore sagte, Grok habe X-Benutzer mit anstößigen Inhalten überschwemmt und sei zu einem der größten Vertreiber von Material geworden, das nicht einvernehmliche sexuelle Aktivitäten und sexuellen Kindesmissbrauch darstellt, obwohl es versprochen habe, solche Inhalte zu verbieten und nur einvernehmlich produzierte Nacktheit von Erwachsenen zuzulassen.
Die Stadt sagte außerdem, dass X, früher bekannt als Twitter, zu Beginn des Jahres innerhalb von 11 Tagen schätzungsweise drei Millionen realistisch aussehende sexualisierte Bilder generiert habe – darunter mehr als 23.000 von Kindern.
„Wir sprechen über Technologieunternehmen, die die sexuelle Ausbeutung von Kindern ermöglichen“, sagte der Bürgermeister von Baltimore, Brandon Scott, in einer Erklärung. „Es stellt eine Bedrohung für die Privatsphäre, die Würde und die öffentliche Sicherheit dar, und die Verantwortlichen müssen zur Rechenschaft gezogen werden.“
REGULIERUNGSBEHÖRDER IN MEHREREN LÄNDERN UNTERSUCHUNG VON GROK
Musks xAI sieht sich in mehreren Ländern in Amerika, Europa, Asien und Australien wegen Grok mit behördlichen Untersuchungen konfrontiert.
Mitte Januar gab xAI bekannt, dass die Bildbearbeitung in Grok eingeschränkt und Benutzer daran gehindert wurden, Bilder von Personen in freizügiger Kleidung in „Gerichtsbarkeiten zu erstellen, in denen dies illegal ist“.
Musk sagte damals, er wisse „keine Bilder nackter Minderjähriger, die von Grok erstellt wurden. Im wahrsten Sinne des Wortes null.“
Die Beschwerde umfasst ein von Grok erstelltes Bild, das Musk am 31. Dezember 2025 geteilt hat und das den 54-Jährigen in einem blauen String-Bikini zeigt. Baltimore nannte es eine „öffentliche Bestätigung“ von Groks Fähigkeit, aufschlussreiche Bearbeitungen realer Menschen zu erstellen.
Die Schätzung von 3 Millionen stammt vom Center for Countering Digital Hate und basiert auf einer Zufallsstichprobe von 20.000 Bildern, die Grok erstellt hat.
Baltimore beantragt eine einstweilige Verfügung, mit der xAI verpflichtet wird, die „ausbeuterischen“ Designmerkmale von Grok zu ändern und nicht näher bezeichnete Geldstrafen zu zahlen.
Durch den Zusammenschluss von SpaceX und xAI im letzten Monat entstand das wertvollste Privatunternehmen der Welt mit einem damaligen Wert von etwa 1,25 Billionen US-Dollar.
