EU-Parlament stimmt für Verbot von Fake-Porno-Software

26. März 2026Es geht um KI-Anwendungen, die aus echten Fotos gefälschte sexuelle Darstellungen machen - ohne Einwilligung der Betroffenen. Auch die deutsche Justizministerin Hubig plant einen Gesetzentwurf zu dem Thema.https://p.dw.com/p/5BA7O"Grundrechte auf Würde und Privatsphäre verletzt": EU-Parlament in Brüssel (Archivbild)Bild: European Union 2025 - Source: EPDie Europäische Union geht gegen Porno-Deepfakes und sexualisierte Bilder im Netz vor. Das EU-Parlament stimmte für ein Verbot von Programmen, mit denen Nutzer solche Bilder und Filme von Menschen ohne deren Einwilligung erstellen können. Nun muss sich das Parlament noch mit dem Rat der EU auf die konkrete Ausgestaltung einigen. Das Verbot soll in einigen Monaten greifen, sobald die Änderung endgültig beschlossen ist. Konkret geht es um Anwendungen, die mit Künstlicher Intelligenz Bilder und Videos so verändern oder erstellen, dass sie "sexuell eindeutige Aktivitäten oder intime Körperbereiche einer bestimmbaren Person ohne deren Einwilligung" zeigen. Solche Bilder und Videos "schädigen die Opfer und verletzen die Grundrechte auf Würde und Privatsphäre", heißt es im Gesetzentwurf zur Begründung. Ein ausdrückliches Verbot sei "dringend geboten", argumentieren die Abgeordneten. Die EU reagiert damit unter anderem auf Vorfälle Anfang des Jahres, als Nutzer mithilfe des Chatbots Grok von US-Milliardär Elon Musk Millionen sexualisierte KI-Bilder von Frauen und Kindern erstellten und online verbreiteten. Mehrere Länder sowie die EU-Kommission leiteten Ermittlungen gegen Grok ein, einige sperrten den Chatbot.Ermittlungen wegen sexualisierter KI-Bilder: Chatbot Grok (Symbolbild)Bild: Thomas Trutschel/photothek.de/picture alliance Das Vorgehen in Brüssel ist das Gegenstück zu einem Gesetzentwurf, den Bundesjustizministerin Stefanie Hubig in Kürze vorstellen will: Die EU ist für Regeln und Verbote für die Technologie zuständig, die Bundesregierung kümmert sich um härtere Strafen für die Täter, die pornografische Deepfakes produzieren. Hubig will Gesetzeslücken schließen - bislang ist das bloße Erstellen pornografischer Aufnahmen hierzulande nicht strafbar. Einem Entwurf zufolge soll das Erstellen und Verbreiten von Deepfakes künftig mit bis zu zwei Jahren Haft bestraft werden. Das EU-Vorgehen ist Teil einer Reihe von Änderungen an einem KI-Gesetz, das die EU 2024 beschlossen hatte. Die Reform sieht an anderer Stelle auch Lockerungen vor: Regeln für den Einsatz von Künstlicher Intelligenz in Sicherheitsbehörden und in Gesundheitssystemen etwa sollen später in Kraft treten als ursprünglich geplant. Das Europaparlament muss in den kommenden Wochen und Monaten mit dem Rat der 27 EU-Staaten über die gesamte Reform verhandeln.