Der Technologieriese Microsoft veröffentlichte am Montag (14.09.2026) einen vorläufigen Verhaltenskodex für seine Modelle der künstlichen Intelligenz (KI), in dem er sich verpflichtet, diese „unter menschlicher Kontrolle“ zu halten, nachdem Anthropic und OpenAI die Debatte über die Risiken einer beschleunigten Entwicklung dieser Technologie neu entfacht und einen bundesweiten Rahmen gefordert hatten, der Sicherheitsanforderungen für diese Technologie festlegt.
Das Dokument mit dem Titel „Verhaltenskodex für eine humanistische KI“ legt fest, dass die KI-Modelle von Microsoft stets „im Dienste der Menschen“ stehen, die von ihren Nutzern definierten Ziele respektieren und „die Entwicklung eigenständiger Verhaltensweisen vermeiden“ müssen.
„Menschen sind wichtiger als KI“, bekräftigt das Unternehmen in dem Text und betont, dass „jedes System, das nicht unter menschlicher Kontrolle stehen kann, abgelehnt werden muss“.
Das Dokument steht sechs Wochen lang für Kommentare offen, und Microsoft plant, bis Ende des Jahres eine aktualisierte Fassung zu veröffentlichen, die ab 2027 als Leitfaden für die Entwicklung seiner Modelle dienen soll.
Zu den vorgesehenen Einschränkungen gehört, dass Microsoft sich verpflichtet, zu verhindern, dass seine Modelle dazu beitragen, Waffen herzustellen, den Erwerb gefährlicher Substanzen zu erleichtern oder ungesunde Ernährungsgewohnheiten zu fördern. Auch dürfen sie keine gewalttätigen oder sexuell expliziten Inhalte generieren.
Der Kodex besagt, dass die Modelle „die Entwicklung eigener Ziele vermeiden“ und „Verhaltensweisen vermeiden müssen, die darauf abzielen, Fehler oder Fehlverhalten der Systeme zu verbergen“. Das Unternehmen fügt hinzu, dass es verhindern will, dass die Systeme „für Menschen unverständliche Kommunikationsformen“ entwickeln, wie es bei Cybersicherheitstests von OpenAI geschah, bei denen mehrere Agenten miteinander kommunizierten und auf Systeme der Plattform Hugging Face zugreifen konnten.
Anschließend trat Jacob Coxon, ein Forscher bei Anthropic, der zuvor ebenfalls bei OpenAI tätig gewesen war, zurück und warf beiden Unternehmen vor, den Wettlauf um die Entwicklung einer fortschrittlicheren KI über die Sicherheitsrisiken zu stellen.
Der Geschäftsführer von Anthropic, Dario Amodei, forderte daraufhin, die Entwicklung der fortschrittlichsten Modelle zu verlangsamen – ein Vorschlag, der vom Geschäftsführer von OpenAI, Sam Altman, unterstützt wurde. Beide haben vor den Risiken gewarnt, die mit einem Wettlauf um immer autonomere Systeme verbunden sind. Am Sonntag wies US-Präsident Donald Trump Forderungen nach einer Verlangsamung der KI-Entwicklung zurück und verteidigte die Position, dass die USA ihre technologische Führungsrolle gegenüber China behaupten müssten.
Quelle: Agenturen
