ai_security
KI-Sicherheitscharta: Crest startet mit 60 Erstunterzeichnern
Im Juli 2026 hat die internationale Cybersecurity-Organisation Crest laut Computer Weekly eine KI-Sicherheitscharta veröffentlicht. 60 Organisationen aus aller Welt zählen zu den Erstunterzeichnern und bekennen sich zu neun verbindlichen Prinzipien für verantwortungsvolle KI-Nutzung in Cybersicherheitsdiensten. Crest reagiert damit auf ein wachsendes Bedürfnis von Einkäufern nach Vertrauen und Nachvollziehbarkeit beim Einsatz Künstlicher Intelligenz.
Warum kommt dieser Vorstoß gerade jetzt? Die Nutzung von KI-gestützten Cyber-Services hat in den vergangenen Monaten drastisch zugenommen. Wie die von Crest erhobenen Daten zeigen, setzen 47 Prozent der Unternehmen KI bereits für die Schwachstellenberichterstattung ein, 44 Prozent für automatisiertes Scannen und Enumeration. Drei Viertel der Sicherheitsdienstleister haben ihren KI-Einsatz in den letzten zwölf Monaten intensiviert. Besonders bei Penetrationstests – also simulierten Angriffen zur Überprüfung von Sicherheitslücken – haben sich KI-Tools als leistungsfähig erwiesen. Parallel zur Charta-Bewegung hat die Ant Group quelloffene Sicherheitsmodelle für KI-Agenten und multimodale Systeme vorgestellt, was den branchenweiten Trend zu kontrollierbaren Sicherheitsstandards unterstreicht.
Was bedeutet das konkret für Ihren Betrieb?
Für kleine und mittlere Unternehmen wird die Beauftragung externer Sicherheitsexperten planvoller. Managed Security Service Provider (MSSPs) benötigen oft hochprivilegierte Zugänge zu sensiblen Systemen und Daten. Die Charta verpflichtet sie erstmals branchenweit dazu, den Einsatz von KI transparent zu machen, die Nachvollziehbarkeit von Entscheidungen zu gewährleisten und die menschliche Aufsicht über automatisierte Prozesse sicherzustellen. Für Sie heißt das: Sie können von Ihrem Dienstleister Auskunft darüber verlangen, ob und wie Kundendaten für Modelltraining verwendet werden, ob KI-Ergebnisse manuell geprüft werden und ob Abhängigkeiten zu externen KI-Anbietern bestehen. Die Charta gibt Ihnen damit ein praktisches Bewertungsraster an die Hand.
Ein Kernpunkt der neun Prinzipien ist der verantwortungsvolle Umgang mit Kundendaten. So sollen Anbieter offenlegen, ob Daten die eigene Organisation verlassen oder außerhalb der eigenen Rechtsordnung verarbeitet werden. Auch muss jederzeit nachvollziehbar dokumentiert sein, welche KI-gestützten Aktionen ausgeführt wurden. Zudem fordert die Charta, dass Sicherheitsdienstleister ihre gesamte KI-Lieferkette – also alle Drittanbieter von KI-Komponenten – prüfen und gegenüber dem Kunden benennen. Ausfälle oder Fehlfunktionen von KI-Systemen müssen in der Risikobetrachtung berücksichtigt werden.
Die Charta ist zunächst eine freiwillige Selbstverpflichtung. Crest arbeitet jedoch bereits an der Entwicklung verbindlicher Prüfstandards für KI-Sicherheit und den Einsatz von KI in Sicherheitsdiensten. In den kommenden Monaten sollen Forschungsprogramme und Arbeitsgruppen konkrete Zertifizierungsmodelle erarbeiten. Mittelfristig werden daraus voraussichtlich unabhängige Gütesiegel entstehen, an denen KMU ihre Dienstleister messen können. Damit wird der Markt für KI-Cyberservices vergleichbarer und das Vertrauen in diese Zukunftstechnologie gestärkt.
Warum kommt dieser Vorstoß gerade jetzt? Die Nutzung von KI-gestützten Cyber-Services hat in den vergangenen Monaten drastisch zugenommen. Wie die von Crest erhobenen Daten zeigen, setzen 47 Prozent der Unternehmen KI bereits für die Schwachstellenberichterstattung ein, 44 Prozent für automatisiertes Scannen und Enumeration. Drei Viertel der Sicherheitsdienstleister haben ihren KI-Einsatz in den letzten zwölf Monaten intensiviert. Besonders bei Penetrationstests – also simulierten Angriffen zur Überprüfung von Sicherheitslücken – haben sich KI-Tools als leistungsfähig erwiesen. Parallel zur Charta-Bewegung hat die Ant Group quelloffene Sicherheitsmodelle für KI-Agenten und multimodale Systeme vorgestellt, was den branchenweiten Trend zu kontrollierbaren Sicherheitsstandards unterstreicht.
Was bedeutet das konkret für Ihren Betrieb?
Für kleine und mittlere Unternehmen wird die Beauftragung externer Sicherheitsexperten planvoller. Managed Security Service Provider (MSSPs) benötigen oft hochprivilegierte Zugänge zu sensiblen Systemen und Daten. Die Charta verpflichtet sie erstmals branchenweit dazu, den Einsatz von KI transparent zu machen, die Nachvollziehbarkeit von Entscheidungen zu gewährleisten und die menschliche Aufsicht über automatisierte Prozesse sicherzustellen. Für Sie heißt das: Sie können von Ihrem Dienstleister Auskunft darüber verlangen, ob und wie Kundendaten für Modelltraining verwendet werden, ob KI-Ergebnisse manuell geprüft werden und ob Abhängigkeiten zu externen KI-Anbietern bestehen. Die Charta gibt Ihnen damit ein praktisches Bewertungsraster an die Hand.
Ein Kernpunkt der neun Prinzipien ist der verantwortungsvolle Umgang mit Kundendaten. So sollen Anbieter offenlegen, ob Daten die eigene Organisation verlassen oder außerhalb der eigenen Rechtsordnung verarbeitet werden. Auch muss jederzeit nachvollziehbar dokumentiert sein, welche KI-gestützten Aktionen ausgeführt wurden. Zudem fordert die Charta, dass Sicherheitsdienstleister ihre gesamte KI-Lieferkette – also alle Drittanbieter von KI-Komponenten – prüfen und gegenüber dem Kunden benennen. Ausfälle oder Fehlfunktionen von KI-Systemen müssen in der Risikobetrachtung berücksichtigt werden.
Die Charta ist zunächst eine freiwillige Selbstverpflichtung. Crest arbeitet jedoch bereits an der Entwicklung verbindlicher Prüfstandards für KI-Sicherheit und den Einsatz von KI in Sicherheitsdiensten. In den kommenden Monaten sollen Forschungsprogramme und Arbeitsgruppen konkrete Zertifizierungsmodelle erarbeiten. Mittelfristig werden daraus voraussichtlich unabhängige Gütesiegel entstehen, an denen KMU ihre Dienstleister messen können. Damit wird der Markt für KI-Cyberservices vergleichbarer und das Vertrauen in diese Zukunftstechnologie gestärkt.
💡 Handlungsempfehlung: Fordern Sie bei der nächsten Vertragsverlängerung mit Ihrem IT-Sicherheitsdienstleister eine schriftliche Bestätigung, ob er die Prinzipien der Crest-KI-Sicherheitscharta einhält und wie er die menschliche Aufsicht über KI-Prozesse konkret umsetzt.
Haeufige Fragen
Was ist die KI-Sicherheitscharta von Crest?
Die Charta definiert neun Prinzipien für den verantwortungsvollen Einsatz von Künstlicher Intelligenz in Cybersicherheitsdiensten. Sie verlangt unter anderem Transparenz gegenüber Kunden, menschliche Aufsicht, Datenschutz und eine dokumentierte KI-Lieferkette.
Müssen KMU jetzt alle KI-Sicherheitsdienstleister wechseln?
Nein, aber sie sollten prüfen, ob ihr aktueller Anbieter die Prinzipien unterzeichnet hat und wie KI bei den erbrachten Dienstleistungen eingesetzt wird. Die Charta ist eine freiwillige Selbstverpflichtung, wird aber voraussichtlich Grundlage künftiger Zertifizierungen.