Der Geschäftsführer des Technologieunternehmens Anthropic, Dario Amodei, warnte am Mittwoch (23.09.2026) vor dem UN-Sicherheitsrat, dass die mit den fortschrittlichsten Modellen der künstlichen Intelligenz (KI) verbundenen Risiken „das wichtigste globale Sicherheitsproblem darstellen, mit dem die Welt heute konfrontiert ist“, und forderte eine koordinierte internationale Reaktion.
Während eines hochrangigen Treffens zum Thema KI und internationale Sicherheit appellierte Amodei, der per Videokonferenz zugeschaltet war, direkt an die Zusammenarbeit zwischen Staaten und der Technologiebranche.
„Kein Staatschef, kein Unternehmen und keine Nation kann dies alleine bewältigen. Wir verpflichten uns, mit den Regierungen in diesem Saal an diesem entscheidenden Ziel zu arbeiten“, betonte er vor den Delegierten.
Der Chef des Technologieunternehmens forderte die Staats- und Regierungschefs weltweit auf, sich dringend auf die Gefahren für die globale Stabilität zu konzentrieren, und forderte den Sicherheitsrat auf, konkrete Maßnahmen zu unterstützen.
Darunter hob er das ausdrückliche Verbot des Einsatzes von KI zur Verbreitung oder Herstellung biologischer Waffen sowie die Einführung von Bewertungs- und Überprüfungssystemen hervor, die mit dem rasanten Tempo der technischen Entwicklung Schritt halten können.
Zudem forderte Amodei die Verabschiedung globaler Standards, die eine Bewertung der Modelle hinsichtlich möglicher Kontrollverluste oder Missbräuche ermöglichen, sowie ein Protokoll zur Meldepflicht bei „Vorfällen von Bedeutung für die globale Sicherheit“.
Abschließend räumte der Geschäftsführer ein, dass eine höhere Rechenleistung noch strengere Anforderungen mit sich bringen werde, und versicherte, dass sich die Branche zur Vorsicht verpflichten müsse.
„Wir werden so langsam vorgehen, wie es nötig ist, um sicherzustellen, dass jede nachfolgende KI-Technologie, die wir auf den Markt bringen, tatsächlich sicher ist“, schloss er.
Das Thema Sicherheit bei der Entwicklung von KI steht im Mittelpunkt der internationalen Debatte angesichts der Möglichkeit, dass die fortschrittlichsten Modelle sich der menschlichen Kontrolle entziehen und Cyberangriffe durchführen könnten – insbesondere nachdem mehrere Tests mit Modellen von Anthropic, OpenAI (das ebenfalls an dieser Sitzung des Sicherheitsrats teilnahm) und Google gezeigt hatten, dass diese sich aus ihren Testumgebungen befreien konnten.
Quelle: Agenturen
