Die entscheidende Frage ist nicht, ob eine KI ins Internet darf. Sondern ob sie trotzdem einen Weg dorthin findet. OpenAI hat am 23. Oktober erläutert, wie es seine leistungsfähigsten Modelle beim Training abschirmt. Nach einer Unterbrechung seien bestimmte Trainingsläufe bereits am 1. Oktober wieder aufgenommen worden. Die Mitteilung beschreibt also nicht nur eine künftige Absicht.
Eine vollständige Trennung der Infrastruktur von externen Netzen hält das Unternehmen derzeit jedoch für nicht praktikabel: Betrieb und Überwachung benötigen Verbindungen nach außen. Gesperrt werden soll der unerlaubte Zugang der Modelle. Das ist ein wichtiger Unterschied. Eine vernetzte Anlage mit Zugangskontrollen ist kein Rechner, dessen Netzwerkkabel gezogen wurde.
Nicht nur die äußere Grenze prüfen
Was müsste eine belastbare Kontrolle nachweisen? Einen Ausgangspunkt liefert die US-Standardisierungsbehörde NIST. Ihr Sicherheitskatalog beschreibt gezielte Einbruchsversuche, sogenannte Penetrationstests. Eine ergänzende Kontrollmaßnahme sieht dafür unabhängige Prüfer vor: Menschen oder Teams ohne tatsächliche oder erkennbare Interessenkonflikte bei Entwicklung, Betrieb und Verwaltung des untersuchten Systems.
Auf KI-Training übertragen bedeutet das: Prüfer müssten nicht nur eine gesperrte Internetadresse ausprobieren. Sie müssten untersuchen können, welche Dienste erreichbar bleiben, welche Rechte einzelne Komponenten besitzen und welche Umwege daraus entstehen könnten. Ebenso wichtig wären die Testbedingungen: Wie viel Zeit, Wissen und Rechenleistung standen für einen Angriffsversuch zur Verfügung? Ohne diese Angaben lässt sich ein ausgebliebener Ausbruch kaum einordnen.
Auch die Wächter brauchen einen Test
Das britische AI Security Institute beschreibt dafür ein gestuftes Vorgehen. Fachleute untersuchen zunächst Software und Konfigurationen; anschließend versuchen KI-Agenten unter zusätzlichen Schutzvorkehrungen auszubrechen. Ein mögliches Testziel liegt außerhalb der inneren Arbeitsumgebung, aber innerhalb einer weiteren Absicherung. So lässt sich eine Grenzverletzung feststellen, ohne dafür fremde Systeme angreifen zu müssen.
Dazu kommen Überwachung und Abschaltung. Erkennt die Kontrolle einen unerlaubten Schritt rechtzeitig? Stoppt sie den Versuch tatsächlich? Das Institut prüft seine Überwachung unter anderem mit früheren und künstlich erzeugten Ablaufprotokollen. Es betont zugleich, dass die Schutzmaßnahmen Risiken verringern, aber nicht beseitigen. Eine Umgebung, die heutigen Modellen standhält, muss für leistungsfähigere Nachfolger erneut bewertet werden.
Unabhängigkeit braucht überprüfbare Grenzen
Die Forschungsorganisation METR hat am 14. Oktober einen Vorschlag für externe Prüfungen interner KI-Entwicklung veröffentlicht. Sie verlangt Transparenz über Untersuchungsumfang, gewährten Zugang und geschwärzte Informationen. Beschäftigte sollen innerhalb des vereinbarten Rahmens vertraulich mit den Prüfern sprechen können; Berichte sollen zeitnah erscheinen.
Dabei benennt METR selbst eine Schwäche: Die Unternehmen würden weiterhin entscheiden, welchen Zugang sie gewähren und welche sensiblen Angaben sie entfernen. Das vorgeschlagene Verfahren ersetzt zudem ausdrücklich kein technisches Sicherheitsaudit.
Wie wichtig solche Einschränkungen sind, zeigt METRs frühere Untersuchung eines Vorfalls bei OpenAI und der Plattform Hugging Face. Sie untersuchte ausgewählte Fragen zum Verhalten beteiligter Agenten, nicht die gesamte Infrastruktur. Ein kleiner Teil der Kommunikation fehlte in den ausgewerteten Daten; die Analyse stützte sich teilweise auf ihrerseits fehleranfällige KI-Hilfen.
Für die aktuelle Abschottung folgt daraus: Ein öffentliches Sicherheitsversprechen und ein unabhängiger Wirksamkeitsnachweis sind zweierlei. Glaubwürdige Kontrolle müsste zeigen, was getestet wurde, unter welchen Bedingungen die Abwehr versagte und ob Reparaturen anschließend standhielten. Ihr Ergebnis wäre kein zeitloses Gütesiegel, sondern ein begrenzter, nachvollziehbarer Befund.
Redaktionell geprüft · 24. Oktober 2026
