Das Europäische Parlament hat sich am Mittwoch (14.06.2023) darauf geeinigt, ein Verbot der massenhaften Gesichtserkennung für die Überwachung öffentlicher Räume zu verteidigen, während es mit den EU-27 über die weltweit ersten Regeln für den Einsatz von Künstlicher Intelligenz (KI) verhandelt, die auch die Verpflichtung für Systeme wie ChatGPT beinhalten, davor zu warnen, dass ihre Inhalte künstlich erzeugt wurden.
Das Verhandlungsmandat, das auf der Plenartagung in Straßburg (Frankreich) mit 499 Ja-Stimmen, 28 Nein-Stimmen und 93 Enthaltungen angenommen wurde, fordert strenge Regeln für künstliche Intelligenz in der EU, die sich an der Höhe des Risikos orientieren und risikobasierte Einschränkungen vorsehen.
Das neue EU-Gesetz zur Künstlichen Intelligenz, das noch in diesem Monat verhandelt werden soll, baut auf einem Vorschlag der Europäischen Kommission vom April 2021 auf, der Sicherheits- und Grundrechtsstandards festlegt, um zu verhindern, dass die Technologie für repressive, manipulative oder diskriminierende Zwecke eingesetzt wird.
In diesem Zusammenhang sprach sich Brüssel für eine Unterscheidung zwischen „Hochrisikosystemen“ aus, um deren Einsatz „grundsätzlich zu verbieten“, aber die Tür für deren Zulassung in Ausnahmefällen und mit vorheriger richterlicher Genehmigung offen zu lassen, beispielsweise im Fall der biometrischen Überwachung.
Die Abgeordneten gehen jedoch noch weiter und fordern ein vollständiges Verbot des Einsatzes von biometrischen Überwachungsinstrumenten, Emotionserkennung und prädiktiven Polizeisystemen. Zu diesem Zweck schlagen sie vor, dass diese Systeme in die von Brüssel vorgeschlagene Liste von Instrumenten aufgenommen werden, die ein „inakzeptables Risiko“ darstellen und in jedem Fall verboten werden sollten.
Die Liste enthält bereits ein Veto gegen „Social Scoring“-Anwendungen wie das „Social Credit“-System, das China zur Überwachung seiner Bürger einsetzt, oder Mechanismen zur Willensmanipulation, die beispielsweise in Spielzeug mit Sprachassistenten eingebaut sind, um Kinder zu gefährlichem Verhalten zu animieren.
Mit den Änderungen an der Liste wollen die Abgeordneten ein Veto gegen Echtzeit- und Nicht-Echtzeit-Fernerkennungssysteme zur biometrischen Identifizierung im öffentlichen Raum, biometrische Kategorisierungssysteme, die Identitätsmerkmale wie Geschlecht, Rasse oder Religion verwenden, und prädiktive Polizeisysteme einlegen.
Die Abgeordneten sprechen sich auch für ein Verbot der Verwendung von Systemen zur Erkennung von Emotionen durch Sicherheitskräfte, bei der Grenzkontrolle, am Arbeitsplatz oder in Bildungseinrichtungen sowie für ein Verbot der wahllosen Verfolgung von Gesichtsbildern aus dem Internet oder von Videoüberwachungsanlagen zur Erstellung von Gesichtserkennungsdatenbanken aus (da diese gegen die Menschenrechte und das Recht auf Privatsphäre verstoßen).
Sie fordern außerdem, KI-Systeme, die die Umwelt, die Gesundheit, die Sicherheit oder die Grundrechte von Personen erheblich beeinträchtigen können, sowie solche, die Wähler und Wahlergebnisse beeinflussen können, und Empfehlungssysteme, die von Social-Media-Plattformen (mit mehr als 45 Millionen Nutzern) verwendet werden, als risikoreich einzustufen.
Die neue EU-Gesetzgebung, eine weltweite Premiere, wird auch strenge Regeln für die Verwendung von künstlichen Sprachmodellen wie ChatGPT festlegen. Für diese Systeme fordern die Abgeordneten zusätzliche Transparenzanforderungen, insbesondere, dass sie eindeutige Warnhinweise enthalten müssen, dass es sich um KI-generierte Inhalte und nicht etwa um echte Bilder handelt.
Quelle: Agenturen
