Die Europäische Union hat es geschafft, wenige Minuten vor dem Ende des Freitags nach mehr als 35 Stunden Verhandlungen eine historische Einigung über die ersten Regeln zur Begrenzung der Risiken der Künstlichen Intelligenz (KI) zu erzielen, die voraussichtlich ab 2026 in Kraft treten werden. „Wir sind sehr stolz darauf, dass wir die weltweit erste internationale Regelung für künstliche Intelligenz erreicht haben“, jubelte die Staatssekretärin für Digitalisierung und künstliche Intelligenz, Carme Artigas, die in diesen Tagen nach Brüssel gereist war, um das Verhandlungsteam des Rates im Rahmen der spanischen Ratspräsidentschaft zu leiten.
Die Unterhändler des Europäischen Parlaments, der Europäischen Kommission und des Rates (Regierungen) begannen am Mittwoch die letzte Verhandlungsrunde für eine Einigung, die erst am späten Freitag erreicht wurde, nachdem die letzten Hindernisse in Bezug auf die biometrische Überwachung und ihre Verwendung durch Sicherheitskräfte überwunden worden waren.
Die Regelung bietet einen risikobasierten Ansatz, der die Risikostufen und die damit einhergehenden Beschränkungen je nach Ausmaß kategorisiert, was ein Verbot in Fällen von „inakzeptablen“ Risiken impliziert, wie z.B. biometrische Kategorisierungssysteme, ungezieltes Image Mining zur Erstellung von Gesichtserkennungsdatenbanken, Emotionserkennung, soziale Bewertungssysteme oder Systeme, die das Verhalten manipulieren. Es sind jedoch eine Reihe strenger Ausnahmen vorgesehen, die den Einsatz biometrischer Überwachungssysteme in öffentlichen Räumen erlauben, sofern eine vorherige gerichtliche Anordnung vorliegt und eine Liste streng definierter Straftaten vorliegt. So wird die biometrische Überwachung in Echtzeit zeitlich und örtlich begrenzt und nur für die gezielte Suche nach Opfern von Entführung, Menschenhandel oder sexueller Ausbeutung, zur Abwehr einer konkreten und gegenwärtigen terroristischen Bedrohung und zur Auffindung oder Identifizierung eines mutmaßlichen Täters einer unter die Vorschrift fallenden Straftat eingesetzt.
Das Europäische Parlament hatte eine lange Liste verbotener Verwendungszwecke vorgelegt, doch der Rat drängte darauf, einige der Systeme von vornherein zu verbieten, sie aber als hochriskant einzustufen und die Einschränkungen anzupassen. Artigas wies darauf hin, dass diese Änderung „nicht bedeutet, dass man tun kann, was man will“, da die Einstufung in die Hochrisikokategorie auch mit strengen Sicherheitsvorkehrungen einhergeht, wie z.B. der Vorbedingung, dass eine gerichtliche Anordnung für den Einsatz vorliegt oder eine Folgenabschätzung für die Grundrechte durchgeführt wird.
Es werden auch KI-Systeme definiert, die zwar zugelassen sind, aber wegen ihrer erheblichen Auswirkungen auf Gesundheit, Sicherheit, Grundrechte, Umwelt und Rechtsstaatlichkeit als sehr risikoreich gelten. KI-Systeme, die zur Beeinflussung des Wahlergebnisses und des Wahlverhaltens eingesetzt werden, werden ebenfalls als hochriskant eingestuft, und die Bürger werden das Recht haben, Beschwerden einzureichen und Erklärungen zu Entscheidungen zu erhalten, die auf KI-Systemen mit hohem Risiko beruhen und ihre Rechte beeinträchtigen.
Ein weiteres zentrales Thema war die Einführung spezifischer Regeln für Gründungsmodelle wie ChatGPT oder DALL-E-Plattformen, die das Licht der Welt erblickten, nachdem die Europäische Kommission ihren ersten Regulierungsvorschlag vorgelegt hatte; dieses Kapitel wurde also im Laufe der Verhandlungen entwickelt. Die bahnbrechende Gesetzgebung sieht auch Strafen für Verstöße vor, die je nach Größe des Unternehmens zwischen 35 Millionen Euro oder 7 Prozent des weltweiten Umsatzes und 7,5 Millionen Euro liegen.
Ziel der neuen europäischen Verordnung ist es, Sicherheits- und Grundrechtsstandards festzulegen, die verhindern, dass Technologie zu repressiven, manipulativen oder diskriminierenden Zwecken eingesetzt wird, ohne jedoch zu einer Überregulierung zu führen, die die Wettbewerbsfähigkeit der EU beeinträchtigen würde.
Die Präsidentin des Europäischen Parlaments, Roberta Metsola, reagierte sofort in den sozialen Netzwerken, um den „historischen Moment“ zu feiern, denn die EU wird über eine Gesetzgebung verfügen, die „avantgardistisch, verantwortungsvoll und umfassend ist und weltweite Standards setzen wird“.
Quelle: Agenturen
