Die spanische Datenschutzbehörde (AEPD) hat die erste Meldung über eine Datenschutzverletzung erhalten, bei der der Vorfall durch einen Agenten der künstlichen Intelligenz ausgeführt wurde, der hierfür ein bekanntes Sprachmodell nutzte.
Der KI-Agent leitete laut Quellen der AEPD eine Suche nach Schwachstellen in generischen Dateien ein, führte eine erfolgreiche Anmeldung („Login“) durch und begann, sobald er Zugriff auf das System hatte, autonom nach Schwachstellen in der Anwendung zu suchen, was es ihm, sobald dies gelungen war, ermöglichte, personenbezogene Daten zu ändern und auf Rechnungen zuzugreifen.
Die für den Schutz personenbezogener Daten zuständige Behörde hat darauf hingewiesen, dass die verfügbaren Informationen, bevor endgültige Schlussfolgerungen gezogen werden können, aus der Meldung der betroffenen Organisation stammen und einer entsprechenden Analyse unterzogen werden müssen.
Ebenso bedeute der Einsatz eines bestimmten KI-Modells nicht, dass das Modell oder die Infrastruktur seines Anbieters kompromittiert worden seien oder dass das Tool für böswillige Aktivitäten entwickelt worden sei, stellte die Behörde klar. „Aus datenschutzrechtlicher Sicht ist relevant, dass ein Dritter einen KI-Agenten als Instrument zur erfolgreichen Verknüpfung verschiedener Phasen des Angriffs genutzt haben soll“, erklärte die AEPD.
Diese erste Meldung lässt zwar noch keine statistischen Tendenzen erkennen, stellt jedoch ein deutliches Zeichen dafür dar, dass KI-gestützte Angriffe kein theoretisches Risiko mehr sind und sich zunehmend in Vorfällen konkretisieren, die die tatsächliche Verarbeitung vonpersonenbezogenen Daten betreffen.
Der Einsatz künstlicher Intelligenz für böswillige Aktivitäten ist nicht neu, und es hat sich gezeigt, dass diese Fähigkeiten, wenn sie bei einem Cyberangriff angewendet werden, die Automatisierung illegaler Aktivitäten erleichtern können. Tatsächlich werden laut AEPD seit langem generative Modelle eingesetzt, um „Phishing“-Nachrichten zu verfassen, betrügerische Kampagnen zu übersetzen, Identitäten zu fälschen, Code zu analysieren oder die Suche nach Schwachstellen zu erleichtern.
Das Aufkommen von KI-Agenten führt jedoch zu einer qualitativen Veränderung, da ein Agent autonom ein Ziel erhalten, Zwischenschritte planen, Werkzeuge einsetzen, Code ausführen, Quellen abfragen, Ergebnisse interpretieren und sein Vorgehen entsprechend den gewonnenen Erkenntnissen anpassen kann.
Die Behörde hat versichert, dass KI keine neuen Bedrohungen schafft, jedoch die Geschwindigkeit, das Ausmaß und die Anpassungsfähigkeit bereits bekannter böswilliger Techniken erhöht, wodurch die Zeit für deren Erkennung und Eindämmung verkürzt wird. Die Bedeutung dieser Mitteilung liegt nicht nur in der eingesetzten Technologie, sondern auch darin, dass sie das Szenario des Risikomanagements verändert, erklärte der stellvertretende Direktor Francisco Pérez Bes in einem Blogbeitrag der Behörde.
Zunächst einmal bestätigt sie die Notwendigkeit, durch KI unterstützte oder ausgeführte Angriffe ausdrücklich in die Risikoanalysen der Datenverarbeitungen einzubeziehen; ein allgemeiner Verweis auf Malware, Phishing oder unbefugten Zugriff reicht nicht aus, da diese Automatisierung die Wahrscheinlichkeit, Geschwindigkeit und Reichweite des Vorfalls erheblich verändern kann.
Zudem erfordert dies eine Überprüfung der Reaktionszeiten, da Verfahren, die für manuell ausgeführte Angriffe konzipiert sind, unzureichend sein können, wenn ein Angreifer gleichzeitig mehrere Ressourcen analysiert, verschiedene Zugangswege testet und sein Verhalten schnell anpasst.
Drittens, so Pérez Bes, gewinne die Bedeutung digitaler Identitäten und Zugangsdaten an Bedeutung, da ein Angreifer, der sich ein Konto, ein Passwort oder ein „Token“ mit übermäßigen Berechtigungen verschafft, mit der Geschwindigkeit einer Maschine agieren und auf verschiedene Dienste zugreifen kann, bevor die Organisation ein anomales Verhalten erkennt.
Schließlich zeige dieser Angriff, dass die Sicherheit der Datenverarbeitung nicht allein von manuellen Eingriffen abhängen könne und dass die menschliche Überwachung zwar weiterhin unverzichtbar sei, sich jedoch auf Erkennungs-, Eindämmungs- und Reaktionsmechanismen stützen müsse, die schnell genug arbeiten könnten, versicherte der stellvertretende Direktor der Behörde. Der Einzug von KI-Agenten in den offensiven Bereich müsse seiner Meinung nach eine sofortige Überprüfung der Sicherheits- und Datenschutzmodelle vorantreiben.
Quelle: Agenturen
