EU-Verfahren gegen X wegen Grok-KI

Die EU zieht die Zügel gegenüber der Plattform X drastisch an und leitet aufgrund systemischer Defizite bei der KI Grok ein förmliches Prüfverfahren ein. Im Zentrum stehen die unkontrollierte Generierung sexualisierter Deepfakes sowie eklatante Verstöße gegen den Digital Services Act (DAS).

Die Europäische Kommission hat ein umfassendes förmliches Prüfverfahren gegen den Kurznachrichtendienst X eingeleitet, um potenzielle Verstöße gegen das Gesetz über digitale Dienste (Digital Services Act, DSA) zu untersuchen. Die Brüsseler Behörde reagiert damit auf die zunehmende Verbreitung illegaler Inhalte, insbesondere durch KI generierte, sexuell eindeutige Bilder, die durch den konzerneigenen Chatbot Grok ermöglicht wurden. Parallel dazu wurde eine bereits seit Dezember 2023 laufende Untersuchung bezüglich der Empfehlungssysteme der Plattform erweitert, um die Auswirkungen des Wechsels auf eine Grok-basierte Architektur zu evaluieren (Europäische Kommission, Pressemitteilung v. 25.01.2026 – IP/26/203).

Digitale Anarchie unter dem Deckmantel der Innovation

Der Beginn des Konflikts liegt in der aggressiven Neuausrichtung der Plattform X, ehemals Twitter, unter der Leitung von Elon Musk. Seit der Übernahme und der Umbenennung in X hat sich das soziale Netzwerk zu einem Experimentierfeld für eine radikale Auslegung der Redefreiheit gewandelt. Mit der Einführung von Grok, einem generativen KI-Modell, das explizit als weniger restriktiv als konkurrierende Systeme positioniert wurde, öffnete die Plattform die Schleusen für eine neue Qualität des digitalen Missbrauchs. Binnen kürzester Zeit fluteten täuschend echte, sexualisierte Deepfakes prominenter Persönlichkeiten die Timelines, ohne dass die automatisierten oder menschlichen Moderationssysteme der Plattform effektiv intervenierten. Besonders gravierend wog hierbei die Erkenntnis, dass die technischen Schutzwälle von Grok – sogenannte Guardrails – bewusst niedrigschwellig gehalten oder leicht zu umgehen waren. Nutzer konnten mit einfachen Befehlen pornografisches Material erstellen lassen, das reale Personen ohne deren Zustimmung in kompromittierenden Situationen darstellte.

Die Vorwürfe der Brüsseler Behörde

Die Einleitung des förmlichen Verfahrens bedeutet, dass die Kommission nun prioritär Beweise sammeln wird, um die mutmaßlichen Verstöße zu erhärten. Das Spektrum der möglichen Sanktionen ist weitreichend und umfasst neben empfindlichen Geldbußen von bis zu sechs Prozent des weltweiten Jahresumsatzes auch die Anordnung einstweiliger Maßnahmen, um unmittelbare Gefahren für die Nutzer abzuwenden.

Quelle und mehr Informationen: WBS.LEGAL