Fireworks AI zufolge drang ein Angreifer in den Cloud-Anbieter des Unternehmens ein, um Zugang zu einem Fireworks-Entwicklungssystem zu erlangen. Dadurch wurde Zugriff auf Daten einiger Kunden möglich, wie TechCrunch berichtet. Notion setzt Fireworks AI ein, um einige der über Notion AI verfügbaren Open-Weight-Modelle auszuführen und gespeicherte Konversationen für Insights zu analysieren – eine Funktion, die Workspace-Administratoren Einblick in die KI-Nutzung ihrer Teams gibt, so BleepingComputer. Darüber berichtet SecurityWeek.

Notions Untersuchung der kompromittierten Daten ergab, dass der Angreifer auf Notion-AI-Chat-Transkripte zugegriffen hat, die für die Insights-Funktion verwendet werden, die Kunden hilft, ihre KI-Nutzung zu verstehen.

Notion hat betont, dass keine anderen Funktionen seiner Plattform von dem Vorfall betroffen waren, wie The Hacker News ergänzt. Die Insights-Funktion wurde seitdem deaktiviert, während die Untersuchung des Sicherheitsvorfalls andauert. Zudem stellt das Unternehmen keine Open-Weight-Modelle mehr über Fireworks bereit.

Vom Testdatensatz zu echten Transkripten

Der Einschätzung von Notion zufolge begann die Spur mit einer Warnung, die Fireworks am 2. November aussprach: Der offengelegte Datensatz habe nur synthetische Testdaten enthalten. Diese Warnung war der erste Anlass, aus dem Notion überhaupt von den offengelegten Chat-Transkripten erfuhr. Am 8. November erhielt Notion dann einen Datensatz von Fireworks AI – und die Analyse dieses Datensatzes führte zu einem anderen Befund.

In einem Update erklärte Notion, der am 8. November erhaltene Datensatz habe Notion-AI-Chat-Transkripte enthalten, die für die Insights-Funktion verwendet wurden. Für die überwiegende Mehrheit der betroffenen Workspaces waren diese Transkripte nicht zuordenbar. Laut Notion heißt nicht zuordenbar, dass die Chats nicht mit Angaben dazu versehen waren, wer sie verfasst hatte oder aus welchem Workspace sie stammten, und dass die Transkripte keine Tool-Call-Ergebnisse enthielten.

TechCrunch zufolge umfassen die Transkripte „jegliche Eingabe in das oder Ausgabe aus dem Modell, die in den Chat geschrieben wurde“. Ein Großteil der Daten sei nicht zuordenbar gewesen, und es habe nicht festgestellt werden können, von welchem Kunden sie stammten, wie TechCrunch ergänzt.

BleepingComputer ergänzt, dass die offengelegten Transkripte speziell aus dem Insights-Datensatz stammten, der inzwischen deaktiviert wurde. Notion hat damit nicht nur die Verbindung gekappt, sondern auch die Datenbasis beseitigt, aus der die Transkripte stammten.

Für Betroffene bleibt die Frage, ob ihre eigenen Chats in dem Datensatz enthalten waren. Laut BleepingComputer sollten möglicherweise betroffene Workspace-Inhaber die Daten über die Sicherheitsvorfall-Überprüfung in der Desktop-Weboberfläche von Notion einsehen und einen Link mit Mitgliedern teilen, über den diese ihre eigenen Transkripte herunterladen können. Dieser Weg erlaubt es, den eigenen Bestand zu prüfen, ohne auf eine Zuordnung durch Notion zu warten.