Opsin hat nach eigenen Angaben in einer Analyse der KI-Agenten-Aktivität bei seinen Unternehmenskunden festgestellt, dass 93 Prozent der fehlgeleiteten, mit Agenten verbundenen Tools vollen, uneingeschränkten Zugriff auf die Systeme hatten, mit denen sie verbunden waren. Wie das Unternehmen weiter berichtete, erforderte nur eines von 200 Tools eine menschliche Genehmigung, bevor es Maßnahmen ergriff. Diese Zahlen deuten auf eine weitreichende Autonomie der Systeme hin, die Unternehmen inzwischen einsetzen.

Opsin bietet eine Plattform, die Sicherheitsteams zentrale Sichtbarkeit und Kontrolle über KI-Agenten gibt, die Mitarbeiter über Plattformen wie Microsoft Copilot, Claude, ChatGPT Enterprise und Gemini erstellen. Die Plattform verbindet Zweck, Identität, Berechtigungen, Datenzugriff, Tools und Aktivität eines Agenten, um ein kontextuelles Bild seines Verhaltens zu erstellen. Laut Business Insider hilft Opsin Unternehmen dabei, zu zeigen, wo KI-Agenten aktiv sind, auf welche Tools und Daten sie zugreifen und welche ursprünglich für sie vorgesehenen Aufgaben sie hatten. Das Unternehmen bietet zudem an, die Arbeit von Unternehmen kontinuierlich zu überwachen, Agenten zu beobachten und riskantes Verhalten zu melden.

Glenn Chisholm, Partner bei SYN Ventures, sagte, Unternehmen würden bei der Einführung von KI-Agenten voranschreiten, doch es gebe weiterhin eine grundlegende Vertrauenslücke bei der Gewährung des Zugriffs auf sensible Daten. Alfred Chuang, General Partner bei Race Capital, sagte, KI-Agenten erhielten Zugriff und Befugnis, auf kritischen Systemen zu handeln, was ein Sicherheitsproblem schaffe, mit dem Unternehmen noch nie konfrontiert gewesen seien. Chuang sagte zudem, Opsin verbinde, was ein Agent tun soll, mit dem, was er tatsächlich tut, und helfe Unternehmen, gefährliches Verhalten zu erkennen und zu beheben.

James Pham, Mitgründer und CEO von Opsin Security, sagte, man habe bereits gesehen, was passieren könne, wenn KI-Agenten vom Kurs abkommen, und die Einsätze würden nur höher werden, je größer ihr Anteil an der Arbeitsweise von Unternehmen werde. Pham sagte, Sicherheitsteams müssten verstehen, was ein Agent zu tun versucht, wer dahintersteht, welche Daten er nutzt und wie seine Aktionen in den größeren Workflow passen. Laut Business Insider berichtete Pham von einem Unternehmen, mit dem Opsin zusammengearbeitet habe: Dort habe ein von einem Chief Financial Officer erstellter Agent anderen Mitarbeitern versehentlich Zugriff auf Finanzinformationen auf höchster Ebene verschafft. Pham sagte, viele Gesprächspartner hätten die Sorge geäußert, dass KI-Agenten auf persönliche oder vertrauliche Informationen zugreifen und sie missbrauchen könnten.

Opsin wurde von James Pham, Oz Wasserman und Jeremy Mailen gegründet; Pham und Wasserman arbeiteten zuvor gemeinsam bei Abnormal Security. Pham ist CEO und Mitgründer von Opsin, wie Business Insider berichtet. Das Unternehmen betreut bereits fast 20 Unternehmenskunden, darunter Culligan, Barry-Wehmiller, Wellstar Health System und UiPath, in Branchen wie dem Gesundheitswesen, Finanzdienstleistungen und der Fertigung. Laut Business Insider beschäftigt Opsin rund 20 Mitarbeiter.

James Pham sagte laut Business Insider, Sicherheitsbedenken würden die Nutzung von KI verlangsamen, und er habe deshalb beschlossen, sein Unternehmen zu skalieren. Pham sagte, die Zahl der Agenten habe selbst bei relativ wenig technikaffinen Unternehmen einige Kunden verblüfft. Glenn Chisholm, ein Cyber-Investor, der Opsin mit SYN Ventures unterstützt, sagte gegenüber Business Insider, dass Hacker mehr Ziele finden werden, je mehr Unternehmen KI-Produkte nutzen. Chisholm sagte laut Business Insider, er habe mehr Venture-Capital-Investitionen gesehen. Anthropic und OpenAI stellen laut Business Insider jeweils aggressiv im Bereich Cybersicherheit ein.

Das Geld aus der Finanzierungsrunde soll laut Business Insider in den Ausbau der Vertriebs- und Engineering-Teams von Opsin fließen. Laut Business Insider hofft Opsin, Unternehmen ein sichereres Gefühl beim Einsatz von Microsoft Copilot, ChatGPT Enterprise und anderen Produkten geben zu können. Die Berichte lassen offen, wie hoch die Bewertung des Unternehmens ausfällt und welche Summe bereits zuvor eingeworben wurde.