EU einigt sich auf Verbot von Missbrauch-Deepfakes durch KI

Die EU will KI-Anwendungen verbieten, die sexualisierte Deepfakes ohne Zustimmung erstellen. Vertreter der Mitgliedstaaten und des EU-Parlaments einigten sich auf eine entsprechende Anpassung des KI-Gesetzes. Das Verbot soll ab Dezember 2026 gelten und vom EU-KI-Amt durchgesetzt werden.

Verbot zielt auf sexualisierte Deepfakes und Kindesmissbrauch

Das neue Verbot richtet sich gegen KI-Anwendungen, die missbräuchlich sexualisierte Deepfakes erstellen. Bei Deepfakes wird etwa das Gesicht einer Person in pornografische Videos eingefügt oder die Stimme künstlich nachgeahmt. Durch KI-Entwicklungen ist die Erstellung täuschend echter Inhalte deutlich einfacher geworden.

Explizit erfasst das Verbot auch Inhalte, die sexuellen Kindesmissbrauch darstellen. Die FDP-Europaabgeordnete Svenja Hahn betonte: "KI darf kein Werkzeug für sexualisierte Gewalt gegen Kinder sein."

Grok-Skandal und deutsche Debatte als Auslöser

Das Thema rückte Ende 2024 durch den KI-Chatbot Grok in den Fokus. Nutzer befahlen der von Elon Musk geführten Software wiederholt, Frauen auf Bildern zu entkleiden. An Silvester erstellte der Chatbot ein Bild von zwei Mädchen im Teenager-Alter in sexualisierten Outfits.

In Deutschland erhielt die Debatte über digitale Gewalt Ende März neue Dringlichkeit durch Vorwürfe von Collien Fernandes gegen ihren Ex-Mann Christian Ulmen. Tausende Menschen demonstrierten bundesweit für mehr Opferschutz.

Bestehende EU-Richtlinie noch nicht umgesetzt

Eine EU-Richtlinie von Mai 2024 sieht bereits vor, dass alle Mitgliedstaaten das Anfertigen und Verbreiten manipulierter sexueller Darstellungen ohne Zustimmung unter Strafe stellen. Deutschland hat diese Richtlinie bisher nicht in nationales Recht übertragen, hat dafür aber noch bis Sommer 2026 Zeit. Justizministerin Stefanie Hubig kündigte entsprechende Strafrechts-Verschärfungen an.

Das neue Verbot wechselt die Perspektive von der Bestrafung der Tat zum Verbot des Werkzeugs selbst. Nicht-einvernehmliche Bikini-Bilder könnten nach der genauen Definition im Gesetz erlaubt bleiben.

Wasserzeichen-Pflicht und Entlastung für Wirtschaft

Anbieter von KI-Chatbots müssen ab Dezember 2026 KI-Inhalte deutlich kennzeichnen – generierte Bilder und Videos erhalten Wasserzeichen. Ursprünglich sollten diese Regeln bereits ab August gelten. Andere Vorgaben setzt das KI-Amt erst ab Dezember 2027 durch.

Die EU-Kommission hatte die Änderungen vorgeschlagen, um die Wirtschaft zu entlasten. Für die Maschinenbaubranche sollen Ausnahmen geschaffen werden, damit sie sich beim KI-Einsatz nicht an mehrere EU-Regularien gleichzeitig halten muss.