Sprachverhunzung: Ein KI-Modell bricht aus

This article is also available in English: Read this article in English.

Es wird langsam dramatisch mit dem Sprachgebrauch. Seit Jahren kämpfen Menschen darum, dass es bei Unfallmeldungen im Straßenverkehr nicht heißen soll „Das Auto kam von der Fahrbahn ab“, sondern oft „Der Fahrer hatte sein Auto nicht im Griff“. Auch das beliebte „Auto nahm die Vorfahrt“ hieße meist korrekt „Autofahrer missachtete die Vorfahrtsregelungen“. Das aber nur zum Einstieg, es wird noch besser.

Am 21. Juli hieß es bei heise online: „KI bricht aus Sandbox aus“, wobei die Sandbox hier eine gesicherte Testumgebung ist. Später im Text heißt es „Ein KI-Modell von OpenAI hat wiederholt Wege gefunden, Sicherheitsmechanismen zu umgehen.“ Bei BR24 klingt das so: „Bei einem Testlauf brach die Software aus der eigentlich abgeschotteten Umgebung aus“.

Wie klingt das? Richtig, es klingt nach Bewusstsein und zielgerichtetem eigenständigen Handeln, es klingt bedrohlich. Die sogenannte „künstliche Intelligenz“ wird hier einer „natürlichen Intelligenz“ gleichgestellt. Der Algorithmus ist scheinbar auf einem Stand, der mindestens dem eines hinter Gittern befindlichen Tieres entspricht, welches einen Ausbruchsversuch unternimmt.

Besonders interessant in dem Zusammenhang ist die bei heise online nachzulesende Beschreibung: „Im OpenAI-Blog beschreiben die Entwickler, was genau passiert ist. In einem internen Test-Szenario hat das Modell zum Beispiel ermittelt, dass die Ergebnisse zu der Aufgabe, die es gerade lösen sollte, im Backend schon von anderen Modellen gespeichert wurden. Darauf hatte es jedoch keinen Zugriff. Also manipulierte es seinen Authentication Token, damit der Zugangsscanner dann den gewünschten Zugriff gewährt. Aus seinem Reasoning geht klar hervor: Es hat aktiv das Ziel verfolgt, sich unerlaubt Zugriff zu verschaffen“.

Es hat aktiv das Ziel verfolgt, das klingt spektakulär. War vielleicht der Algorithmus so programmiert, dass das System aktiv nach alternativen Wegen suchen sollte, um das Ziel zu erreichen? War den Programmierern nicht bewusst, was das für Folgen haben kann?

Weiter heißt es: „Das Problem hier war: Die einzelnen Aktionen, die die KI ausgeführt hat, um seinen Authentication Token zu manipulieren, waren nicht verboten. Doch das übergeordnete Ziel, das damit verfolgt wurde, war nicht im Sinne der Entwickler.“

Man muss kein KI-Experte sein, um dahinter zu erkennen: Die Entwickler haben etwas programmiert, von dem sie nicht genau wussten wie es funktioniert. Sie haben ihren Algorithmen, die sie intelligent nennen, Rechte gegeben und wussten nicht wie der Algorithmus diese zur Erfüllung einer gestellten Aufgabe nutzen kann.

Fazit: Die sogenannte künstliche Intelligenz hat auch hier nicht eigenständig gehandelt, sie hat eine Aufgabe so erfüllt, wie ihre Algorithmen es im Rahmen der erteilten Rechten zuließen. Das Problem ist, dass die Entwickler nicht wussten, was sie genau programmiert hatten.

Wir sollten uns hüten den Algorithmen der KI ein Bewusstsein zu unterstellen, genauso wie das in der Einleitung genannte Auto haben sie kein solches.