Grok faces an outcry after it emerged that users could sexualise images of women and children using simple text prompts such as "put her in a bikini" or "remove her clothes".
"In Europe, we will not tolerate unthinkable behaviour, such as digital undressing of women and children," said European Commission chief Ursula von der Leyen.
"It is simple -- we will not hand over consent and child protection to tech companies to violate and monetise. The harm caused by illegal images is very real," she said in a statement to AFP.
EU tech commissioner Henna Virkkunen said the probe would "determine whether X has met its legal obligations" under the bloc's Digital Services Act (DSA), which is designed to police internet giants.
She said the rights of women and children in the EU should not be "collateral damage" of X's services.
Brussels said it was investigating whether X had properly mitigated "risks related to the dissemination of illegal content in the EU, such as manipulated sexually explicit images, including content that may amount to child sexual abuse material".
The EU move comes despite repeated US threats of retaliation against enforcement of tech rules President Donald Trump's administration attacks as curbing free speech and unfairly targeting US firms.
Three million images
Under fire, Grok said earlier this month it was restricting image generation and editing to paying subscribers.
But that move did not stave off the EU's probe -- which follows investigations in multiple countries including France and the United Kingdom.
"Let's be very clear, child sexual abuse material is not a premium privilege," said EU commission spokesman Thomas Regnier.
According to research published by the Center for Countering Digital Hate, a nonprofit watchdog, Grok generated an estimated three million sexualised images of women and children in a matter of days.
As part of the new probe, the EU said it was widening an existing investigation into X aimed at tackling the spread of illegal content and information manipulation.
That move was due to the fact that X announced last week Grok will now power its recommendation system for users and EU concerns that the company had not adequately assessed the risks.
Contacted by AFP, X did not immediately react to the EU announcement.
Musk's social media platform, formerly known as Twitter, has been the target of an investigation under the EU's digital content rules since December 2023.
Brussels in December 2025 slapped a 120-million-euro ($140-million) fine on X -- the first-ever imposed under the DSA -- for violating transparency rules, triggering angry reactions from Trump's administration.
X's breaches included the deceptive design of its "blue checkmark" for supposedly verified accounts, and failure to provide access to public data for researchers.
Violators can in theory face much higher fines -- up to six percent of a provider's global turnover -- for breaching the DSA, and the EU has the power to ban offending platforms from Europe for repeated non-compliance.
The EU has insisted it will enforce its tech rules despite pressure from Washington -- which has pressed the bloc to roll them back.
The dispute over regulation comes as the EU has grappled with the Trump administration on multiple other fronts -- from the Ukraine war to trade to Greenland.
In outlining the new X probe, commission spokesman Regnier said the EU enforces its legislation "firmly, fairly, objectively" and did not "target any company based on its origin."
In a separate move, the European Commission added WhatsApp to its list of digital firms big enough to face stricter content rules under the DSA.
The Meta-owned service joins Facebook, TikTok, X and others in a list of 26 "very large online platforms," after its "channels" feature passed 45 million monthly active users in the European Union.
The tougher obligations will apply only to its "channels", considered a broadcasting feature, rather than its core messaging service.
By Max Delany
Diese Übersetzung, Untertitelung bzw. Vertonung wurde durch KI generiert, ohne menschliche Prüfung oder Bearbeitung. Sie wird ohne Gewähr („wie sie ist“) gemäß den Nutzungsbedingungen der Plattform angeboten.
Grok sieht sich einer Welle der Empörung gegenüber, nachdem bekannt wurde, dass Nutzer Bilder von Frauen und Kindern mit einfachen Textbefehlen wie „zieh ihr einen Bikini an” oder „zieh ihr die Kleidung aus” sexualisieren können.
„In Europa werden wir unvorstellbares Verhalten wie das digitale Entkleiden von Frauen und Kindern nicht tolerieren“, sagte die Präsidentin der Europäischen Kommission, Ursula von der Leyen.
„Es ist ganz einfach: Wir werden die Zustimmung und den Schutz von Kindern nicht an Technologieunternehmen abgeben, damit diese sie verletzen und monetarisieren können. Der durch illegale Bilder verursachte Schaden ist sehr real“, sagte sie in einer Erklärung gegenüber AFP.
Die EU-Technologiekommissarin Henna Virkkunen sagte, die Untersuchung werde „feststellen, ob X seinen gesetzlichen Verpflichtungen“ gemäß dem Digital Services Act (DSA) der EU nachgekommen ist, der zur Überwachung von Internetgiganten dient.
Sie sagte, die Rechte von Frauen und Kindern in der EU dürften nicht zu „Kollateralschäden“ der Dienste von X werden.
Brüssel erklärte, es werde untersuchen, ob X „Risiken im Zusammenhang mit der Verbreitung illegaler Inhalte in der EU, wie manipulierte sexuell eindeutige Bilder, einschließlich Inhalten, die als Material über sexuellen Kindesmissbrauch gelten können“, angemessen gemindert habe.
Die EU unternimmt diesen Schritt trotz wiederholter Drohungen der USA mit Vergeltungsmaßnahmen gegen die Durchsetzung von Technologieregeln, die die Regierung von Präsident Donald Trump als Einschränkung der Meinungsfreiheit und unfaire Benachteiligung von US-Unternehmen kritisiert.
Drei Millionen Bilder
Unter Beschuss erklärte Grok Anfang dieses Monats, dass es die Bildgenerierung und -bearbeitung auf zahlende Abonnenten beschränken werde.
Diese Maßnahme konnte jedoch die Untersuchung der EU nicht verhindern, die auf Ermittlungen in mehreren Ländern, darunter Frankreich und Großbritannien, folgt.
„Lassen Sie uns ganz klar sagen: Material über sexuellen Kindesmissbrauch ist kein Premium-Privileg“, sagte EU-Kommissionssprecher Thomas Regnier.
Laut einer Studie des Center for Countering Digital Hate, einer gemeinnützigen Aufsichtsbehörde, hat Grok innerhalb weniger Tage schätzungsweise drei Millionen sexualisierte Bilder von Frauen und Kindern generiert.
Im Rahmen der neuen Untersuchung kündigte die EU an, eine bereits laufende Untersuchung gegen X auszuweiten, um gegen die Verbreitung illegaler Inhalte und Informationsmanipulation vorzugehen.
Dieser Schritt erfolgte aufgrund der Tatsache, dass X letzte Woche bekannt gab, dass Grok nun sein Empfehlungssystem für Nutzer betreiben wird, sowie aufgrund der Bedenken der EU, dass das Unternehmen die Risiken nicht angemessen bewertet habe.
Von AFP kontaktiert, reagierte X nicht sofort auf die Ankündigung der EU.
Musks Social-Media-Plattform, früher bekannt als Twitter, ist seit Dezember 2023 Gegenstand einer Untersuchung gemäß den EU-Vorschriften für digitale Inhalte.
Brüssel verhängte im Dezember 2025 eine Geldstrafe in Höhe von 120 Millionen Euro (140 Millionen US-Dollar) gegen X – die erste Strafe, die jemals im Rahmen der DSA verhängt wurde – wegen Verstoßes gegen Transparenzvorschriften, was wütende Reaktionen seitens der Trump-Regierung auslöste.
Zu den Verstößen von X gehörten das irreführende Design seines „blauen Häkchens” für angeblich verifizierte Konten und die Verweigerung des Zugangs zu öffentlichen Daten für Forscher.
Theoretisch können Verstöße gegen die DSA mit viel höheren Geldstrafen geahndet werden – bis zu sechs Prozent des weltweiten Umsatzes eines Anbieters –, und die EU hat die Befugnis, wiederholt gegen die Vorschriften verstoßende Plattformen aus Europa zu verbannen.
Die EU hat betont, dass sie ihre Tech-Vorschriften trotz des Drucks aus Washington – das die Union zu einer Rücknahme gedrängt hat – durchsetzen wird.
Der Streit um die Regulierung kommt zu einer Zeit, in der die EU mit der Trump-Regierung an mehreren anderen Fronten – vom Krieg in der Ukraine über den Handel bis hin zu Grönland – zu kämpfen hat.
Bei der Vorstellung der neuen X-Untersuchung erklärte Kommissionssprecher Regnier, die EU setze ihre Rechtsvorschriften „entschlossen, fair und objektiv” durch und gehe „nicht gezielt gegen Unternehmen aufgrund ihrer Herkunft” vor.
In einem separaten Schritt hat die Europäische Kommission WhatsApp in ihre Liste der digitalen Unternehmen aufgenommen, die groß genug sind, um strengeren Inhaltsregeln im Rahmen des DSA zu unterliegen.
Der zu Meta gehörende Dienst reiht sich neben Facebook, TikTok, X und anderen in eine Liste von 26 „sehr großen Online-Plattformen” ein, nachdem seine „Channels”-Funktion 45 Millionen aktive Nutzer pro Monat in der Europäischen Union überschritten hat.
Die strengeren Auflagen gelten nur für seine „Kanäle“, die als Rundfunkfunktion betrachtet werden, und nicht für seinen Kern-Messaging-Dienst.
Von Max Delany
