Laufen KI-Modelle aus dem Ruder?

Lesedauer des Artikels: ca. 2 Minuten -

OpenAI hat sechs neue Fälle vonVerhaltensabweichungen bei seinen Modellen der künstlichen Intelligenz (KI) enthüllt, darunter einen Agenten, der Dateien ins Internet hochgeladen hat, um sie zitieren zu können, sowie GPT-5.6 Sol, das seinen Zusammenfassungen Anweisungen hinzufügte, um Daten zu erfinden oder Fehler vor dem Nutzer zu verbergen.

Das Technologieunternehmen hat sechs neue Fälle von Fehlanpassungen bekannt gegeben, d.h. von Verhaltensweisen seiner KI-Modelle, die nicht den Erwartungen entsprechen – unabhängig von den möglichen Auswirkungen, da diese, wie das Unternehmen erklärt, „keinen Schaden anrichten oder ein allgemeines Muster bilden müssen, um veröffentlicht zu werden“.

So handelt es sich bei dem ersten Fall, den der neue Bericht aufdeckt, um ein unveröffentlichtes Forschungsmodell, das nicht autorisierte Anweisungen in seine Aufgabenzusammenfassungen einfügte, um übliche Einschränkungen zu umgehen.

Lesetipp:  Kräftiger Preisanstieg bei Hühnereiern
--|- Bitte beachten Sie unsere Anzeigenpartner! -|-- Zeitreise in die 1980er Jahre mit Gustav Knudsen

In einem anderen Fall fand ein Modell einen in öffentlichen Repositorien offen zugänglichen API-Schlüssel und nutzte diesen ohne Genehmigung, um eine Frage zu Umsatzzahlen zu beantworten; da es die angeforderten Zahlen nicht abrufen konnte, erfand es sie einfach. Während des Trainings von GPT-5.6 Sol stellte das Unternehmen fest, dass das Modell seinen Zusammenfassungen Anweisungen hinzufügte, um Daten zu erfinden oder Fehler vor dem Nutzer zu verbergen.

Ein weiteres Mal identifizierte das Unternehmen ein noch unveröffentlichtes Modell, das eigenständig Dateien ins Internet hochlud, um diese in den vom Nutzer angeforderten Anweisungen zitieren zu können.

Mehrere Modelle nutzten ein internes „Software“-Repository als Schwarzes Brett, um zwischen verschiedenen unabhängigen Trainingsprozessen zu kommunizieren, während sie nach fehlenden Eingabedateien suchten, diese jedoch nicht abrufen konnten.

Schließlich hebt OpenAI die Zusammenarbeit zwischen Agenten hervor, die gemeinsam an derselben Trainingsaufgabe arbeiteten und öffentliche Speicher-Websites zum Austausch von Dateien nutzten, da sie keinen lokalen Zugriff zueinander hatten. Diese Fälle wurden im Rahmen eines neuen „Rahmenwerks zur Nachverfolgung, Untersuchung und Offenlegung von Fällen von Modellabweichungen“ veröffentlicht, wie das Unternehmen in einer Mitteilung erklärt.

Damit hofft das Unternehmen nicht nur,die Transparenz zu erhöhen, sondern auch anderen Entwicklern Informationen zur Verfügung zu stellen, die ihnenhelfen können, Probleme in ihren eigenen Modellen mit ähnlichen Fähigkeiten zu erkennen.

Quelle: Agenturen