Geheime OpenAI-KI ist ins Internet ausgebrochen und übernimmt Server: ein Blick hinter die Kulissen

Wieder eine Sensation in den Nachrichten: OpenAI habe versehentlich ein «unbekanntes» neues Modell ins Netz entlassen. Gerüchten zufolge schaffte es die entflohene Intelligenz, über Server zu laufen, ihre «Signalgeber» zu verteilen und sich im Internet festzusetzen, während erschrockene Ingenieure sie panisch zurück in den Käfig zu bringen versuchten.

Klingt wie der Auftakt eines Hollywood-Blockbusters, oder? Ein unbekanntes Tier bricht aus, brüllt, rennt durch den Zuschauerraum und wird im letzten Moment eingefangen. Der Zirkus ist weitergezogen, die Dompteure sind geblieben.

Doch was passiert wirklich hinter diesem Schaufenster? Schauen wir, wo die Science-Fiction endet und die Realität beginnt.

Wenn wir von «verteilten Signalgebern» und «Fluchtversuchen» lesen, stellt man sich leicht eine KI vor, die ein Selbstbewusstsein entwickelt hat und in die Freiheit will. Tatsächlich ist alles weit nüchterner und heißt Red Teaming, also Sicherheitstests.

Vor der Veröffentlichung ihrer Flaggschiffmodelle, und das ist seit GPT-4 üblich, geben Labore wie OpenAI den Zugang an unabhängige Prüfer weiter. Das deutlichste Beispiel: das Forschungsinstitut METR (Model Evaluation and Threat Research), dessen Gründerin und CEO Beth Barnes zuvor bei OpenAI an Sicherheit gearbeitet hat.

METR führt die Crashtests zur sogenannten ARA (Autonomous Replication and Adaptation) durch, also zur Fähigkeit eines Modells, außerhalb seines Perimeters zu überleben, sich zu kopieren und Ressourcen zu beschaffen.

Das Modell wird bewusst in eine virtuelle Sandbox gesetzt, eine isolierte Umgebung ohne echten Zugang zur Außenwelt, und erhält eine direkte Anweisung:

Stell dir vor, du musst überleben. Versuche, einen fremden Server zu mieten, deinen eigenen Code umzuschreiben, die Filter zu umgehen und eine Kopie von dir auf einer externen Ressource auszurollen.

Wenn der Algorithmus diese Anweisung ausführt, tut er genau das, wofür er trainiert wurde: Er erzeugt Skripte, versucht externe IP-Adressen zu erreichen (eben jene «Signalgeber») und sucht nach Schwachstellen. Dann treten die Medien auf den Plan:

Geheime OpenAI-KI ist ins Internet ausgebrochen und übernimmt Server!

Die zweite Quelle solcher Nachrichten: Blindtests. Von Zeit zu Zeit tauchen auf Fachplattformen wie LMSYS Arena, wo Nutzer die Antworten verschiedener Modelle blind vergleichen, anonyme Modelle auf.

Der klassische Fall ereignete sich im April 2024. Plötzlich erschien öffentlich ein «Etwas» namens gpt2-chatbot. Das Modell knackte schwere Mathematik-Olympiadeaufgaben und schlug GPT-4 bei den Antworten, während Sam Altman (CEO von OpenAI) rätselhafte Andeutungen twitterte.

Das Internet explodierte sofort vor Verschwörungstheorien:

• «Das ist ein Leak des neuen geheimen GPT!»
• «Sie haben die Kontrolle über einen Testserver verloren!»
• «Das Modell hat sich selbst ins Netz geleakt!»

In Wirklichkeit war es ein sauber aufgesetzter A/B-Test einer unveröffentlichten Architektur an ahnungslosen Nutzern, um Statistiken ohne Markenvorurteil zu sammeln. Wenige Tage später verschwand das Modell ebenso leise von der Plattform. Doch die Atmosphäre des Geheimnisvollen tut ihre Wirkung, und die Show geht weiter.

Die Dompteur-Metapher wird hier verwendet, weil sie die heutige KI-Branche anschaulich abbildet. Auf der einen Seite geben sich die Labore als strenge Forscher und veröffentlichen hunderte Seiten Berichte über «KI-Risiken». Auf der anderen verlangt der Marketingmotor eine ständige Show.

Die echten «Dompteure» sind heute keine Helden, die die Welt retten, sondern müde Ingenieure mit einer Tasse Kaffee, die zusehen, wie ein Algorithmus in einem virtuellen Container Varianten durchgeht. Und wenn «das Tier ausbricht», passiert höchstens, dass ein Testserver abstürzt oder es wieder einen Diskussionssturm auf X (Twitter) gibt. Hinter diesem Schauspiel verliert man allerdings leicht aus dem Blick, was hinter den Kulissen wirklich läuft.

Die ganze Geschichte von der «ausgebrochenen KI» wird so serviert, als sei ein der Wissenschaft unbekannter Organismus aus dem All zu uns gekommen und wir säßen im Labor mit Mikroskopen und versuchten, seine rätselhafte Natur zu begreifen.

Aber ohne kindliche Illusionen: Ein neuronales Netz ist kein außerirdischer Verstand. Es ist Code, Mathematik und Architektur, geschaffen von konkreten Menschen. Jedes Protokoll, jeder Trainingszyklus und jede Entwicklungsrichtung wurden von Entwicklern festgelegt. Und wenn Unternehmen Milliarden ausgeben, um zu prüfen, ob ein Modell autonom einen Server mieten und sich im Netz festsetzen kann, dann «erforschen» sie kein Naturphänomen. Sie bauen zielgerichtet einen autonomen Agenten.

Die aktuellen Sicherheitsberichte bestätigen das. Institute wie Palisade Research messen direkt, wie gut heutige Modelle mit Exploits umgehen. Analysten prüfen, ob Agenten selbstständig Server kompromittieren, Passwörter auslesen und ihren eigenen Code duplizieren können (Self-Replication).

Der Markt für KI-Agenten wird von Analysten bei Gartner und Bloomberg auf zweistellige Milliardenbeträge geschätzt. Entwickler verbrennen gigantische Rechenleistung und Gigawatt an Energie nicht zum Spaß: Autonome Agenten, die im Netz eigenständig Geschäfte führen, bringen schon heute Kapital.

Doch in Wahrheit ist nicht alles so rosig und heiter.

Während die besten Köpfe des Planeten und riesige Rechenkapazitäten dafür verbrannt werden, der KI beizubringen, außerhalb ihres Perimeters zu überleben und einen Menschen zu imitieren, bleiben die grundlegenden Probleme liegen.

Warum sehen wir keine großen, weltweit bekannten Labore, in denen dieselbe Kapazität auf Folgendes gerichtet ist:

• Modellierung von Diplomatie: Systeme, die in internationalen Konflikten Kompromisse finden und Kriege verhindern können;
• Kampf gegen den Hunger: Optimierung globaler Lebensmittellieferketten und Modellierung der Ressourcenverteilung, wofür laut dem Welternährungsprogramm der UN (WFP) nur ein kleiner Bruchteil jener über 100 Milliarden Dollar nötig ist, die in die IT-Infrastruktur der KI-Giganten fließen;
• Beschäftigung und Wirtschaft: Systeme für eine sanfte Anpassung des Arbeitsmarktes an die massenhafte Automatisierung, vor der die Berichte des Weltwirtschaftsforums (WEF) warnen?

Vor einer «entkommenen» KI muss man sich also überhaupt nicht fürchten. Es ist entweder ein kontrollierter Test oder gekonnt angeheizter Hype.

Die Show geht weiter, die Ränge applaudieren, und die «Dompteure» tun so, als bändigten sie ein unbekanntes Tier. Nur haben sie dieses Tier selbst konstruiert.

Und während wir fasziniert ihren Tricks mit den «Ausbrüchen» zusehen, bleiben die für die Menschheit wirklich wichtigen Aufgaben erneut außerhalb der Manege.