Die Institutionen der Europäischen Union haben sich am Donnerstag (07.05.2026) darauf geeinigt, die Erstellung sexualisierter Bilder, die mit künstlicher Intelligenz generiert wurden, ohne die Zustimmung der betroffenen Personen zu verbieten.
Die in den frühen Morgenstunden geschlossene Vereinbarung verbietet KI-Systeme, deren einziger Zweck darin besteht, solche Bilder oder Bilder von sexuellem Kindesmissbrauch zu generieren, sowie solche, die für vielfältige Zwecke eingesetzt werden können, sofern sie nicht über „angemessene Sicherheitsmaßnahmen“ verfügen, um die Verbreitung dieser Inhalte zu verhindern.
Das Verbot, das am 2. Dezember 2026 in Kraft treten wird, wurde nach dem Skandal um die Erstellung von Fotos mit Grok, dem KI-Tool des sozialen Netzwerks X, vereinbart, das nun bis Ende des Jahres Zeit hat, angemessene Schutzmaßnahmen zu entwickeln.
„Unsere Unternehmen und Bürger erwarten zwei Dinge von den KI-Regeln. Sie wollen innovativ sein können und sich sicher fühlen. Die heutige Einigung erfüllt beide Ziele“, sagte die für Digitalpolitik zuständige Vizepräsidentin der Europäischen Kommission, Henna Virkkunen, in den sozialen Medien.
Die EU fügt damit eine zusätzliche Einschränkung für die Erstellung dieser Art von Inhalten hinzu, die in den Mitgliedstaaten bereits strafrechtlich verfolgt wird. Darüber hinaus haben die EU-Institutionen die Verpflichtung, alle mit künstlicher Intelligenz erstellten Inhalte – seien es Fotos, Videos oder Audiodateien – mit Wasserzeichen zu versehen, bis Dezember 2026 verschoben, damit Nutzer leicht erkennen können, dass sie maschinell erstellt wurden.
Die Einigung verschiebt zudem die Verpflichtungen, die das EU-KI-Gesetz für Hochrisikosysteme vorsieht, auf den 2. Dezember 2027. Dazu gehören Systeme, die zum Schutz kritischer Infrastrukturen eingesetzt werden, von Banken zur Berechnung der Rückzahlungswahrscheinlichkeit eines Kredits, zur Personalbeschaffung oder beispielsweise zur Verwaltung der Grenzkontrollen.
Ursprünglich sah das Gesetz das Inkrafttreten dieser Verpflichtungen für dieses Jahr vor, doch die EU-Institutionen haben eine Verschiebung um sechzehn Monate vereinbart, da Brüssel die technischen Anforderungen, die KI-Systeme erfüllen müssen, um sicher zu sein, ohne Menschen zu gefährden oder Grundrechte zu verletzen, noch nicht festgelegt hat.
Die Reform des KI-Gesetzes wurde vor allem unter dem Vorwand vereinbart, den bürokratischen Aufwand für Unternehmen zu verringern. Zu diesem Zweck wurden verschiedene Industriezweige von der Verpflichtung befreit, die in der Verordnung für Hochrisikosysteme vorgesehenen Anforderungen an Transparenz oder die Meldung von Vorfällen zu erfüllen. Produkte wie Medizinprodukte, Spielzeug oder Aufzüge sind von der Verpflichtung befreit, den Nachweis zu erbringen, dass ihre KI-Systeme sicher sind, sofern andere branchenspezifische Vorschriften bereits ähnliche Anforderungen an sie stellen.
„Damit Europa zu einem KI-Kontinent wird, müssen wir Innovationen fördern und Start-ups sowie expandierende Unternehmen unterstützen“, sagte die Europaabgeordnete Arba Kokalari, Berichterstatterin des Europäischen Parlaments für die Reform der Verordnung. Die Organisation CCIA Europe, die die Interessen der großen Technologieunternehmen vertritt, lehnte die Reform ab.
„Angesichts der minimalen Verbesserungen, die im KI-Gesetz eingeführt wurden, ist es schwer, die enorme Kluft zwischen der politischen Rhetorik über regulatorische Vereinfachung und den konkreten Ergebnissen zu ignorieren“, erklärte die Plattform in einer Mitteilung.
Quelle: Agenturen
