OpenAI nimmt für sein Cybersecurity Grant Program jetzt Vorschläge für ein breiteres Spektrum von Projekten entgegen. Ergänzend führt das Unternehmen laut eigener Ankündigung Mikro-Stipendien in Form von API-Guthaben ein, mit denen Forscher Cybersecurity-Ideen und -Experimente schnell prototypisch umsetzen können. Darüber berichtet Gizmodo.

Die drei Instrumente greifen an unterschiedlichen Stellen, und ihre Wirkung ist bislang nur angekündigt, nicht im Betrieb belegt. Ob das breitere Spektrum an Projekten, die API-Guthaben und die Bonus-Prämien zusammen mehr belastbare Sicherheit erzeugen, lässt sich aus OpenAIs Angaben nicht ableiten.

Cathedral soll die Verteidigung testen

Laut einem Blogbeitrag von OpenAI soll das Cathedral-Team die Modelle von OpenAI gemeinsam mit den OpenAI-Teams einsetzen, um die Verteidigung herauszufordern und Schwachstellen zu finden. Cathedral bringt damit eine Vorgeschichte mit, die direkt an der Frage ansetzt, wie belastbar die Verteidigung tatsächlich ist.

Die Aufgabe von Cathedral geht über das bloße Finden von Schwachstellen hinaus: Die Forscher sollen bestehende Schutzmaßnahmen testen und Wege entwickeln, um potenzielle Bedrohungen abzuwehren. Nach Angaben von Tribuneindia arbeiten die Forscher dabei mit den Teams von OpenAI zusammen und nutzen deren KI-Modelle. Ob dieser Ansatz die Verteidigung tatsächlich belastbarer macht, belegt die Ankündigung nicht – offen bleibt etwa, an welchen konkreten Systemen Cathedral die Schutzmaßnahmen testet und wie die Ergebnisse in die Produktentwicklung zurückfließen.

Die offene Rechnung heißt Wirksamkeit

Laut OpenAI gehören zu den Bemühungen auf dem Weg zu allgemeiner KI auch robuste Alignment-Methoden gegen Prompt-Injection-Angriffe sowie Kontrollen zur Überwachung von Agenten. Das Unternehmen beschreibt außerdem den Aufbau einer einheitlichen Pipeline und eines modularen Frameworks, die skalierbare Echtzeit-Sichtbarkeit und Durchsetzung über Agentenaktionen und Formfaktoren hinweg ermöglichen sollen. Beide Angaben bleiben Ankündigungen: Ob diese Mechanismen im Betrieb greifen, sagt OpenAI nicht.

Sicherheit bezeichnet OpenAI nach eigener Darstellung als Eckpfeiler bei Design und Umsetzung von KI-Projekten der nächsten Generation wie Stargate. Mit Partnern will das Unternehmen Praktiken wie Zero-Trust-Architekturen und hardwaregestützte Sicherheitslösungen übernehmen. Wo die physische Infrastruktur deutlich wächst, arbeitet OpenAI eigenen Angaben zufolge eng mit Partnern zusammen, damit physische Schutzmaßnahmen mit den KI-Fähigkeiten Schritt halten – darunter fortschrittliche Zugangskontrollen, umfassende Sicherheitsüberwachung, kryptografische Schutzmaßnahmen und Verteidigung in der Tiefe.