Listen to the article
BRÜSSEL (dpa-AFX) – Nach dem Skandal um sexualisierte KI-Bilder von Elon Musks Chatbot Grok leitet die EU-Kommission ein Verfahren gegen den US-Konzern X ein. Die Brüsseler Behörde verdächtigt das Unternehmen des Tech-Milliardärs laut Mitteilung, die Risiken bei der Einführung seiner Künstlichen Intelligenz auf der Online-Plattform nicht richtig bewertet und reduziert zu haben.
boerse.de-Aktien-Ausblick:
Wie es an den Börsen jetzt weitergeht!
Hier gratis anfordern …
X war in den vergangenen Wochen in die Kritik geraten, weil zunächst alle Nutzerinnen und Nutzer den KI-Chatbot Grok auffordern konnten, gepostete Bilder zu sexualisieren. Immer wieder befahlen Menschen der KI etwa, Fotos zu manipulieren und Frauen in Bikinis zu kleiden.
An Silvester entschuldigte sich Grok dafür, ein Bild von zwei Mädchen im Teenager-Alter „in sexualisierten Outfits“ erstellt und geteilt zu haben. Bei der Untersuchung geht es laut EU-Kommission daher auch um Bilder, die als Kindesmissbrauch gelten könnten. Im Sommer hatte Grok bereits mit Lobpreisungen für Adolf Hitler schockiert.
Erneut Spannungen zwischen EU und USA?
EU-Kommissionspräsidentin Ursula von der Leyen teilte mit, die EU werde die Verantwortung für Konsens und Kinderschutz nicht an Tech-Unternehmen abgeben. „In Europa werden wir unvorstellbares Verhalten wie das digitale Entkleiden von Frauen und Kindern nicht tolerieren“, fügte die deutsche Politikerin hinzu.
Nach der Deeskalation im Grönland-Konflikt nimmt die Brüsseler Behörde mit diesem Schritt das Risiko in Kauf, die US-Regierung von Donald Trump erneut zu verärgern. In Anbetracht der teilweise seit Jahren andauernden Ermittlungen – auch gegen X – halten Kritiker der EU gleichzeitig schon länger vor, ihre Digitalregeln nicht konsequent genug durchzusetzen.
Gegen Musks Online-Plattform laufen auf Grundlage europäischer Digitalgesetze ohnehin bereits mehrere Untersuchungen – etwa wegen der Moderation und des Risikomanagements illegaler Inhalte. Auch gegen andere Tech-Riesen, wie etwa Meta
US-Regierung hatte EU-Kommission zuletzt gedroht
Anfang Dezember hatte die EU erstmals auf Grundlage des Gesetzes über digitale Dienste (Digital Services Act, kurz DSA) gegen X eine Strafe von 120 Millionen Euro wegen Transparenzmängeln verhängt. Washington reagierte damals scharf, sprach von Zensur und verhängte Einreiseverbote gegen einen der Architekten der Digitalgesetze sowie andere Europäer.
Die heftige Reaktion konnte auch als Drohung in Richtung Brüssel verstanden werden, keine weiteren Maßnahmen gegen die US-Tech-Riesen zu ergreifen. Außenminister Marco Rubio schrieb zur Begründung der Einreisesperren auf X, es würden gezielt amerikanische Plattformen attackiert. Man sei bereit, die Liste zu erweitern, wenn es keine Kurskorrektur gebe. Elon Musk selbst sprach sich dafür aus, die EU abzuschaffen.
Warum die EU-Kommission Grok nicht sperren will
Das nun eröffnete Verfahren konzentriert sich laut Mitteilung darauf, ob X das Risiko für „geschlechtsspezifische Gewalt und schwerwiegende negative Folgen für das körperliche und geistige Wohlbefinden“ genügend eingeschränkt hat.
Die Internetwächter in Brüssel kündigten neben der neuen Ermittlung zudem an, eine seit Ende 2023 laufende Untersuchung zu erweitern. Dabei gehe es auch um die Empfehlungen für Inhalte, die X seinen Nutzer anzeigt. Diese basierten zunehmend auf der KI von X und stellten ebenfalls Risiken dar.
Von einer Strafe oder Sperre des Dienstes sah die EU-Kommission zunächst ab: Eine Deaktivierung von Grok in der EU zu erwirken, sei nicht das Ziel der EU-Kommission und eher ein letztes Mittel, hatte ein Sprecher der Brüsseler Behörde in der Vergangenheit gesagt. Indonesien und Malaysia hatten Grok als erste Länder weltweit Mitte Januar vorübergehend gesperrt.
Die Einleitung des Verfahrens auf Grundlage des Gesetzes über digitale Dienste bedeutet noch keinen Nachweis eines Verstoßes. Sollte X aber nicht einlenken oder entlastende Beweise liefern, könnten Strafen durch die Europäische Kommission drohen. Sie wacht in der EU über die Einhaltung der Digitalregeln. Wie lange das Verfahren dauern wird, ist offen.
X hat Chatbot bereits beschränkt
Unter zunehmendem Druck wegen der übergriffigen Bilder – etwa von Schwedens stellvertretender Ministerpräsidentin Ebba Busch – hatte die US-Firma ihren Chatbot zuletzt eingeschränkt. „Die Bilderzeugung und Bearbeitung ist derzeit auf zahlende Abonnenten beschränkt“, antwortet der Chatbot inzwischen. Von Abonnenten erstellte Bilder lassen sich aber auch weiterhin für alle öffentlich anzeigen.
Der EU-Kommission und auch anderen Aufsichtbehörden auf der Welt reichte dieser Schritt nicht. Es folgten weitere Einschränkungen. So seien „technologische Maßnahmen“ eingeführt worden, die die Bearbeitung von Bildern realer Personen mit leichter Bekleidung wie Bikinis verhindern sollen, teilte X mit. Diese Beschränkung gelte sowohl für kostenlose Accounts als auch für zahlende Nutzer.
Die Brüsseler Internetwächter sehen in diesen Vorkehrungen einen Erfolg ihres andauernden Dialogs mit der US-Firma. Die EU-Kommission sei wahrscheinlich die einzige Behörde, die Antworten von X erhalten habe, behauptet ein Sprecher. „X hat uns geantwortet, X hat sich mit uns auseinandergesetzt, X hat zugehört, X hat Maßnahmen ergriffen. Das ist schon ein ziemlicher Erfolg“, sagte er.
Der deutsche Bundesdigitalminister Karsten Wildberger begrüßte das Vorgehen der EU-Kommission. Es sei inakzeptabel, dass Frauen und Minderjährige wiederholt Opfer sexualisierter Bildmanipulationen würden, während Plattformen untätig blieben. Alexandra Geese, Grünen-Abgeordnete im Europaparlament, kritisierte hingegen: Das Verfahren komme zu spät. „Der Schaden für Millionen von Frauen und viele Kinder ist irreparabel“, teilte Geese mit.
Auch London und Paris ermitteln
Auch die britische Medienaufsichtsbehörde Ofcom hatte Mitte Januar eine offizielle Untersuchung gegen Musks Online-Plattform eingeleitet. Der britische Premierminister Keir Starmer nannte die Erzeugnisse der KI „widerlich“. Die Pariser Staatsanwaltschaft ermittelt seit Sommer 2025 wegen der möglichen Bevorzugung rechtsextremer Inhalte, mutmaßlicher Holocaustleugnung und sexueller Abbildungen gegen X./tre/DP/stk
Quelle: dpa-AFX
Den vollständigen Artikel hier lesen
24 Kommentare
Die Drohung der US-Regierung mit Einreiseverboten gegen EU-Beamte nach der ersten Strafe gegen X ist ein deutliches Zeichen der Eskalation. Könnte das zu einem regelrechten Handelskrieg im digitalen Bereich führen?
Die Strafe von 120 Millionen Euro gegen X wegen Transparenzmängeln im Dezember war ja schon beachtlich. Wird dieses neue Verfahren, angesichts der schwerwiegenden Vorwürfe, zu einer noch höheren Strafe führen?
Die Tatsache, dass Grok bereits im Sommer mit Lobpreisungen für Adolf Hitler schockierte, wirft ein schlechtes Licht auf die Sicherheitsvorkehrungen bei der Entwicklung dieser KI. Wie konnte es zu solchen Fehlern kommen?
Ich finde es richtig, dass Ursula von der Leyen betont, dass Europa das ‚digitale Entkleiden‘ von Frauen und Kindern nicht tolerieren wird. Das zeigt eine klare Haltung in dieser wichtigen Frage.
Die Untersuchung der potenziellen Kindesmissbrauchsbilder ist absolut notwendig. Hier darf es keine Kompromisse geben, und X muss umfassend mit den Behörden zusammenarbeiten.
Ich bin gespannt, wie X auf dieses Verfahren reagieren wird. Werden sie ihre Sicherheitsmaßnahmen verbessern oder versuchen, die Vorwürfe abzuweisen?
Es ist doch ein Widerspruch, dass X einerseits mit Lobpreisungen Hitlers schockiert und andererseits sexualisierte Bilder generiert. Wo liegen die ethischen Grenzen für diese KI?
Ich bin weniger besorgt über die Auswirkungen auf einzelne Unternehmen als über die generelle Frage, wie wir KI-Technologien ethisch vernünftig gestalten können. Der Fall X ist hier ein Weckruf.
Die Situation erinnert an ähnliche Verfahren gegen Meta und TikTok. Scheint, als ob die EU alle großen Tech-Konzerne unter die Lupe nimmt.
Die anfängliche Kritik an X, dass der Chatbot Grok Bilder sexualisieren konnte, zeigt, wie schnell sich schädliche Inhalte verbreiten können, wenn die richtigen Schutzmechanismen fehlen.
Absolut richtig. Man sollte nicht unterschätzen, wie einfach es ist, KI für missbräuchliche Zwecke zu nutzen.
Ich befürchte, dass diese Eskalation zwischen der EU und den USA die Entwicklung von KI-Technologien weiter verkomplizieren wird. Werden wir dadurch langsamer sein, Innovationen voranzutreiben?
Die Aussage von Marco Rubio, dass amerikanische Plattformen gezielt attackiert werden, ist natürlich eine starke Behauptung. Aber die zeitliche Nähe der Maßnahmen und der Reaktion der USA ist auffällig.
Wenn Kritiker der EU vorwerfen, ihre Digitalregeln nicht konsequent genug durchzusetzen, ist das ein valider Punkt. Diesmal scheint die Kommission aber sehr entschlossen zu handeln.
Es ist besorgniserregend, dass selbst nach der Strafe von 120 Millionen Euro und der Entschuldigung weiterhin Probleme auftauchen. X scheint das Thema nicht ernst genug zu nehmen.
Ich frage mich, ob die Untersuchung auch die Verantwortung der Nutzer berücksichtigt, die die KI gezielt dazu aufgefordert haben, Bilder zu sexualisieren. Sind sie strafrechtlich relevant?
Die 23% Tourismussteigerung, die gelegentlich erwähnt wird, erscheint angesichts solcher Vorfälle fast nebensächlich. Die Reputation von Plattformen wie X kann sich negativ auf das Image eines Landes auswirken.
Ich finde es gut, dass die EU sich für den Schutz von Kindern und Frauen im digitalen Raum einsetzt. Das ist eine wichtige Aufgabe, die nicht allein den Tech-Unternehmen überlassen werden kann.
Es ist besorgniserregend, dass X offenbar die Risiken bei der Einführung seiner KI nicht richtig bewertet hat. Das deutet auf eine mangelnde Sorgfaltspflicht hin.
Die EU-Kommission scheint wirklich besorgt über die sexualisierten KI-Bilder von Grok zu sein, besonders da es auch um potenzielles Kindesmissbrauchsmaterial geht. Ist das Verfahren gegen X ein direkter Zusammenhang mit der Entschuldigung von Grok an Silvester für die erstellten Bilder von Teenagern?
Es ist bemerkenswert, dass die EU-Kommission auch WhatsApp nun stärker regulieren will. Scheint, als ob der Digital Services Act (DSA) wirklich greift und die großen Plattformen unter Druck setzt.
Das Verfahren gegen X ist ein wichtiges Signal, dass die EU bereit ist, ihre Digitalregeln auch gegen große US-Konzerne durchzusetzen. Ob das langfristig erfolgreich sein wird, bleibt abzuwarten.
Ich glaube, die EU muss da noch stärker werden, um wirklich etwas zu bewirken.
Die Tatsache, dass die EU-Kommission auch die Moderation illegaler Inhalte bei X untersucht, zeigt, dass es hier noch viel Aufholbedarf gibt. Gerade die schnelle Verbreitung solcher Inhalte ist problematisch.