Mistral AI hat Mistral Large 4 unter einer modifizierten MIT-Lizenz veröffentlicht, die Nutzung, Änderung, Feintuning und Kommerzialisierung erlaubt. Unternehmen, die ein Model-as-a-Service-Angebot betreiben, brauchen laut InfoWorld eine separate Lizenz. Charlie Dai, Vice President und Principal Analyst bei Forrester, sagte, offene Gewichte und Selbst-Hosting verlagerten die Verantwortung für Schutzmechanismen, Zugriffskontrollen, Überwachung und Missbrauchsprävention auf den Betreiber. Wer die Gewichte selbst betreibt, übernimmt damit auch die Aufgabe, für Schutz zu sorgen.

Für europäische Käufer sei Souveränität ein bedeutender Differenzierungsfaktor, sie dürfe aber Sicherheitsbedenken nicht überwiegen, so Dai.

Sicherheitsversprechen unter Vorbehalt

Mistral AI bezeichnet Large 4 als bestes Open-Weight-Modell für Programmierung und verweist auf führende Ergebnisse bei Cognition’s FrontierCode 2.0 und Terminal-Bench 4.0. Den technischen Bericht zu diesen Ergebnissen hat das Unternehmen noch nicht veröffentlicht und nur angekündigt, dass er bald erscheinen soll. Charlie Dai, Vice President und Principal Analyst bei Forrester, sagte, ohne einen detaillierten technischen Bericht bleibe die Behauptung, das beste Open-Weight-Modell zu sein, über verschiedene Workloads hinweg schwer zu validieren.

Mistral AI gab an, das Modell habe in der Vorschau die Ausführung von Black-Box-Angriffen gegen Live-Ziele verweigert, das Unternehmen sehe jedoch ein Potenzial für eine Steigerung bei der Durchführung echter Angriffe. Niyati Daftary, Principal Analyst bei Gartner, sagte, die Zahl von 96,6 % sage aus, wie sich das Modell in Mistrals Testszenario verhalte, nicht wie es sich mit den Daten und gegnerischen Anwendungsfällen eines Unternehmens oder im Produktivbetrieb gegen motivierte Angreifer verhalte.

Der Patch erreicht den Download nicht automatisch

Mistral AI überarbeitet die Schutzmechanismen des Modells und will sie in den kommenden Monaten weiter aktualisieren, berichtet InfoWorld. Wer die Gewichte einmal heruntergeladen hat, bekommt neue Schutzmechanismen also nicht einfach nachgeliefert.

Design-Partner wie Orange Cyberdefense erhalten laut Mistral Vorschauzugang zu einer für Penetrationstests, Schwachstellenbewertung und Red-Teaming optimierten Variante. Dieser Zugang unterliege strenger Prüfung und vertraglichen Schutzmaßnahmen und sei auf Systeme beschränkt, die die Partner selbst besitzen oder zu testen berechtigt sind. Das ist ein kontrollierter Kanal, aber kein Ersatz für einen Patch-Mechanismus bei den offenen Gewichten.

Was Nutzer jetzt einplanen müssen

Pierre Stock, Vizepräsident für Wissenschaft bei Mistral, kündigte an, ein Bericht werde die Methoden und Ergebnisse der Cyber-Bewertung, der Verweigerungstests und der Vorschau-Überwachung dokumentieren. Mistral beabsichtige zudem, relevante Ergebnisse adversarialer Tests zu teilen, sensible Sicherheitsinformationen aber zu schützen; ein Veröffentlichungsdatum nannte Stock nicht. Ohne Termin bleibt dieser Bericht eine Ankündigung, und Ankündigungen sind noch keine Belege.

ENISA, die Cybersicherheitsagentur der EU, erklärte in einer zusammen mit Mistrals Ankündigung veröffentlichten Stellungnahme, sie teste das Modell, um Schwachstellen zu identifizieren, Code zu prüfen und defensive Logs zu analysieren. Das ist ein Prüfkanal, kein Prüfergebnis – wer auf ein Urteil wartet, muss es weiter abwarten.

Nach dem EU AI Act gelten Modelle, die mit mehr als 10^25 Gleitkommaoperationen (FLOPs) trainiert wurden, laut der Europäischen Kommission als vermutlich systemisch riskant; ihre Anbieter müssen diese Risiken bewerten und mindern, schwerwiegende Vorfälle melden und Cybersicherheitsschutz aufrechterhalten. Mistrals Beitrag lässt offen, ob Large 4 in diese Kategorie fällt oder welche Risikobewertung der Veröffentlichung vorausging.