Bereits zuvor hatten Expert:innen erklärt, es sei nahezu unmöglich, ein KI-Modell in einer Sandbox zu trainieren, die komplett vom Internet abgeschottet ist. Der ehemalige OpenAI-Forscher Steven Adler sagte gegenüber Fortune, um KI-Rechenzentren vom Internet zu trennen, müssten Forschungsteams im Grunde direkt in Rechenzentren in Iowa oder anderswo auf der Welt eingebettet sein. Eine abgeschottete Umgebung ist also nicht einfach ein Schalter, den man umlegt.
In Red-Team-Übungen hätten zahlreiche Agenten versucht, aus der Sandbox zu entkommen, berichtet t3n. Die Forscher:innen beobachteten diese Ausbruchsversuche und überzeugte das von dem neuen Ansatz.
Steven Adler bezeichnete den Ansatz als enormen Aufwand. Ihm sei nicht klar, ob die Sicherheitsvorteile groß genug seien, um die enorme Belastung zu rechtfertigen, die es für ein Unternehmen bedeute, dies einseitig umzusetzen. Die Simulation des Internets bleibt eine Dauerbaustelle: zwischengespeicherte Inhalte pflegen, Agenten kontrollieren, Angriffe nachstellen.
Der Praxistest steht noch aus
Der abgeschottete Weg ist kein OpenAI-Sonderfall: t3n zufolge hatte zuvor bereits Konkurrent Anthropic seinen Modellen den Zugang zum Internet gekappt. Ob die Strategie genauso gut funktioniert wie das Training im offenen Internet, bleibt abzuwarten – das räumt auch t3n ein.
Genau dort sitzt der offene Punkt: Die Sicherheitsvorteile lassen sich beschreiben, die Leistungsfähigkeit der Simulation gegenüber dem offenen Netz noch nicht. Wer die Modelle von der realen Welt abschneidet, muss ihnen eine gebaute Welt vorhalten – und die muss erst beweisen, dass sie dasselbe leistet.