Brüssel nimmt Musks X ins Visier: EU-Kommission eröffnet Verfahren wegen KI-generierter Nacktbilder

Die Europäische Union zeigt einmal mehr, dass sie gewillt ist, amerikanischen Tech-Giganten die Stirn zu bieten. Die EU-Kommission hat ein formelles Untersuchungsverfahren gegen die Plattform X eingeleitet, die zum Imperium des umstrittenen Milliardärs Elon Musk gehört. Im Zentrum des Konflikts steht der KI-Chatbot Grok, der offenbar massenhaft sexualisierte Bilder von Frauen und Kindern generiert hat – ohne deren Einwilligung, versteht sich.

Millionen manipulierter Bilder in wenigen Tagen

Die Zahlen, die aus Brüssel kommen, sind erschreckend. Nach Angaben der amerikanisch-britischen Nichtregierungsorganisation Zentrum gegen Hass im Internet habe der Chatbot Grok innerhalb von nur elf Tagen rund drei Millionen KI-Bilder von Frauen und Mädchen in sexualisierten Posen erzeugt und veröffentlicht. Darunter befänden sich mindestens 23.000 Fotos von Kindern. Prominente wie die US-Sängerin Taylor Swift, Schauspielerin Selena Gomez und die frühere Vizepräsidentin Kamala Harris seien unter den Betroffenen gewesen.

„In Europa wird kein Unternehmen Geld damit verdienen, unsere Grundrechte zu verletzen", erklärte die Kommission in einer unmissverständlichen Stellungnahme. Eine Sprecherin von Kommissionspräsidentin Ursula von der Leyen fügte hinzu: „Wir werden Einvernehmlichkeit in Bezug auf Nacktfotos und den Kinderschutz nicht an Technologieunternehmen ausliefern."

Der Digital Services Act als scharfe Waffe

Rechtsgrundlage für das Vorgehen ist der Digital Services Act (DSA), jenes europäische Digitalgesetz, das große Plattformen zu umfassenden Sicherheitsmaßnahmen verpflichtet. Danach müssen Unternehmen wie X Systeme etablieren, die Minderjährige vor Risiken schützen und gegen illegale Inhalte vorgehen. Auch Risiken im Zusammenhang mit geschlechterspezifischer Gewalt sowie negative Folgen für die physische und psychische Gesundheit der Nutzer müssen minimiert werden.

Kommissionssprecher Thomas Regnier machte deutlich, wo das Problem liegt: „Eines ist sicher: In den Berichten von X zu ihrer Risikobewertung wird Grok nirgends erwähnt. Was bedeutet das? Es bedeutet, dass X die Risiken, die von Grok für unsere Bürger in der EU ausgehen, schlichtweg nicht bewertet hat."

Bereits die zweite Millionenstrafe droht

Für Musks Plattform könnte es teuer werden – wieder einmal. Erst im Dezember wurde X als erster Konzern überhaupt mit einer Geldstrafe nach den europäischen Digitalgesetzen belegt. Wegen mangelnder Transparenz bei Nutzerkonten und politischer Werbung muss das Unternehmen 120 Millionen Euro zahlen. Am Ende des neuen Verfahrens könnte eine weitere empfindliche Strafe stehen.

Politische Brisanz im transatlantischen Verhältnis

Die Untersuchung kommt zu einem heiklen Zeitpunkt. In Brüssel wurde gemutmaßt, die Kommission könnte das Verfahren verzögert haben, um angesichts der jüngsten Zoll-Drohungen und Grönland-Ambitionen von US-Präsident Donald Trump die Stimmung nicht weiter anzuheizen. Die Kommission widerspricht dieser Darstellung vehement und verweist darauf, dass X bereits vor Wochen angewiesen worden sei, interne Dokumente zur Prüfung bereitzustellen.

„Wer es wagt, Meinungsfreiheit mit der Verbreitung von kinderpornografischem Material zu vergleichen, oder Meinungsfreiheit mit dem digitalen Entkleiden von Frauen ohne deren Einwilligung – der lebt nicht im Einklang mit den Werten Europas."

Mit diesen klaren Worten reagierte Kommissionssprecher Regnier auf die zu erwartende Kritik aus Washington, wo jedes Vorgehen gegen amerikanische Tech-Plattformen als Angriff auf die Redefreiheit interpretiert wird.

Kritik an der Reaktionsgeschwindigkeit

Die Grünen-Europaabgeordnete Alexandra Geese begrüßte das Verfahren grundsätzlich, übte jedoch Kritik am Timing: „Ich hoffe, die Kommission wird aus diesem Fall lernen und künftig schneller handeln." Der Schaden für Millionen von Frauen und viele Kinder sei irreparabel, so Geese weiter.

Musks Unternehmen xAI hatte zwischenzeitlich reagiert und Grok nur noch für zahlende Abonnenten in der EU angeboten. Nach den europäischen Digitalgesetzen ist dies jedoch keinesfalls ausreichend, um den Verpflichtungen nachzukommen. Auch Großbritannien hat mittlerweile Ermittlungen gegen X eingeleitet – dort ist die Verbreitung intimer Fotos ohne Zustimmung der Betroffenen illegal, was auch für KI-generierte oder manipulierte Bilder gilt.

Auf das Brüsseler Vorgehen hat Elon Musks Firma xAI bislang nicht reagiert. Man darf gespannt sein, ob der Tech-Milliardär, der sich gerne als Verfechter absoluter Meinungsfreiheit inszeniert, auch diesmal mit markigen Worten zurückschlagen wird – oder ob die drohenden Millionenstrafen letztlich doch zum Einlenken führen.