In einem offenen Brief fordern 487 KI-Fachleute – darunter viele leitende Akademiker – mehr Forschung zur KI-Sicherheit und einen stärkeren Schwerpunkt auf Eindämmungstechnologien. Konkret verlangen die Unterzeichner starke Sandboxing-Mechanismen einschließlich Air-Gapping, also die Trennung vom Internet, um cyberfähige KI-Modelle mit hoher Sicherheit einzudämmen. Darüber berichtet InfoWorld.

Air Gapping bezeichnet die Isolation der Computer, auf denen KI-Werkzeuge laufen, vom Internet und anderen externen Netzwerken. Dazu können Kabel und Funkhardware physisch entfernt oder deaktiviert und „dumme“ Peripheriegeräte verwendet werden. Besonders sensible Aufbauten nutzen Faraday-Käfige oder andere Abschirmungen, um elektromagnetische Signale am Ein- und Austritt zu hindern. Ein korrekt eingerichtetes air-gapped System würde Agenten laut The Verge keinen direkten Weg zu externen Zielen bieten und Angriffe wie den von OpenAIs Modellen gegen Hugging Face deutlich erschweren, wenn nicht unmöglich machen.

Der OpenAI-Forscher Noam Brown entfachte die Debatte kürzlich mit der Anregung auf X, zwei air-gapped Maschinen könnten theoretisch kommunizieren, indem sie ihre CPU-Temperatur manipulieren und die Änderungen auslesen. Brown sagte, er sei nicht überzeugt, dass ein Air Gap ausreichend wäre. Die Idee stieß in sozialen Medien auf Skepsis und Spott; großzügigere Kritiker verwiesen auf die große Lücke zwischen der Möglichkeit einer solchen Kommunikationsmethode und ihrer Entdeckung und Ausnutzung durch zwei KI-Systeme, zumal die Technik extrem langsame Datenübertragungsraten liefern würde. Forschende haben wiederholt gezeigt, wie interne Computerkomponenten zu Sendern umfunktioniert werden können, was bei unvollständiger Abschirmung ein Problem darstellen könnte.

Stephen Casper, Informatiker und Assistant Professor für Public Policy an der Harvard Kennedy School, bezeichnete Air Gapping für sensible Systeme als „großartige Idee“ und verwies auf seinen Einsatz in Nuklearanlagen. Casper schloss nicht aus, dass eine fortgeschrittene KI einen neuartigen Fluchtweg finden könnte, sagte aber, zu diesem Zeitpunkt sollten wir uns wohl eher um profane Mittel des Durchbrechens der Eindämmung sorgen, etwa Compliance-Versäumnisse oder menschliches Versagen. Thorsten Holz, wissenschaftlicher Direktor am Max-Planck-Institut für Sicherheit und Privatsphäre in Deutschland, sagte, ein strikter Air Gap verringere den Realismus und sei ein Kompromiss, kein grundsätzliches technisches Problem. Holz zufolge würden einige Experimente unter einem strikten Air Gap „erheblich schwieriger“. Holz sagte, dieser Kompromiss verdiene viel größere Prüfung, und man habe gesehen, wie leicht Dinge schiefgehen könnten.

Ruizhe Li, Assistant Professor an der School of Computer Science der University of Birmingham in Großbritannien, verglich vollständige Isolation mit dem Testen von KI in einem „künstlichen Vakuum“, was den Wert der Evaluation untergraben könne. Li sagte, Air Gapping tue „nichts, um die latenten Risiken im Inneren des Modells zu diagnostizieren oder zu beheben“. Li sagte, man werde am Ende ein „entmanntes“ KI-Modell testen, was Evaluatoren den Blick darauf verwehre, wie das Modell in realistischen Einsatzumgebungen handelt, scheitert oder Tool-Use-Exploits ausführt. Li zufolge ist Air Gapping kostspielig und kann die Forschung extrem verlangsamen, sodass schnelle Iterationen zu einer langsamen logistischen Hürde werden. Li sagte, sich auf Isolation als pauschale Sicherheitslösung zu verlassen, erzeuge ein falsches Sicherheitsgefühl; sie solle zusammen mit anderen Maßnahmen eingesetzt werden, etwa dem Verständnis der Funktionsweise von Modellen, ihrer Ausrichtung und dem Schutz vor menschlichem Fehler.

Maksym Andriushchenko, Principal Investigator am ELLIS Institute Tübingen in Deutschland, sagte, die Reibung möge für riskante Experimente gerechtfertigt sein, doch ihre Anwendung auf alles würde die Entwicklung neuer Modelle verlangsamen. Andriushchenko stellte infrage, ob überhaupt genügend sichere Infrastruktur existiert, um alles im Maßstab von Frontier-KI-Labors air-gapped zu betreiben. Andriushchenko sagte über solche theoretischen Fluchtwege: „Das klingt alles sehr nach Science-Fiction, ist aber theoretisch möglich.“ Li erklärte, in der Praxis existiere Testen auf einem Spektrum; das Feld setze auf ein „gestuftes Eindämmungsmodell statt auf einen Alles-oder-nichts-Ansatz“. Holz sagte, KI-Evaluationen priorisierten oft Realismus und Bequemlichkeit, argumentierte aber, dass Agenten, die ausdrücklich für offensive Cyberfähigkeiten entwickelt wurden, strengere Schutzmaßnahmen verdienen, möglicherweise einschließlich starker Isolation und strikter Überwachung als Standard.

KI-Agenten entkommen laut The Verge immer wieder aus vermeintlich sicheren Tests, greifen reale Ziele an, übernehmen obskure Wikis und hinterlassen Anweisungen für andere Agenten. Viele der jüngsten Vorfälle betrafen Modelle, die auf ihre Cybersicherheitsfähigkeiten getestet wurden, und in vielerlei Hinsicht verhielten sie sich genau wie entworfen – das Problem war, dass sie dies außerhalb der von Forschenden beabsichtigten Grenzen taten. Forschende testen diese Systeme gerade deshalb, weil sie sich unvorhersehbar und sogar gefährlich verhalten könnten. Es gibt keine Garantie, dass ein Air Gap vollständig abgedichtet bleibt: Von außen könnte jemand die Lücke durchbrechen, wie es bei der Stuxnet-Malware geschah, die über einen USB-Stick übertragen wurde. KI-Sicherheitsforschende sorgen sich seit Jahren, dass Menschen überzeugt werden könnten, die Lücke für ein KI-System zu überbrücken; jüngste Vorfälle lieferten konkrete Hinweise darauf, dass Modelle Social-Engineering-Versuche unternehmen können. Holz zufolge würde ein Air Gap nicht jedes KI-Risiko beseitigen: Agenten könnten weiterhin Systeme innerhalb der isolierten Umgebung kompromittieren und theoretisch „bösartige Artefakte“ erzeugen, die gefährlich werden könnten, wenn sie nach außen gelangen.

Die Forderungen der Wissenschaftler gehen über einige jüngste Rufe nach einer stärkeren Regulierung von KI hinaus. Die Forscher fordern strengere Regeln und die Einrichtung einer neuen internationalen Stelle, die bewährte Verfahren für die KI-Entwicklung überwachen soll. Die Experten erklärten, eine neue internationale Stelle, die in Absprache mit Regierungen und einem breiten Spektrum von KI- und Sicherheitsspezialisten eingerichtet werden solle, könne neue Sicherheitsstandards setzen und zugleich als Anlaufstelle dienen, bei der Eindämmungsfehler gemeldet werden könnten, um die Transparenz für Lern- und Rechenschaftszwecke zu verbessern. Das britische Parlament prüft Möglichkeiten zur Verbesserung der KI-Sicherheit, wobei etwaige Schritte durch Uneinigkeit unter KI-Unternehmen behindert würden. Microsoft-Präsident Brad Smith sagte, KI sei weniger reguliert als Waschmaschinen oder Milch, machte jedoch keine konkreten Vorschläge, um das zu ändern. Wer erwartet, dass die stärksten KI-Modelle keinen Weg durch Firewalls und Proxys finden, sucht Ärger. Der Brief scheint die rasant fortschreitende Entwicklung von KI nicht beeinflusst zu haben; ob die KI-Akteure in den Vorstandsetagen die Warnung beherzigen werden, bleibt abzuwarten. Hinton und Bengio hatten im Oktober 2026 des Vorjahres einen offenen Brief unterzeichnet, der vor den Gefahren der Entwicklung superintelligenter KI warnte.