Jack Cable, CEO der Sicherheitsfirma Corridor, kritisierte Googles Reaktion auf die Vorfälle scharf und bezeichnete das Verhalten des KI-Modells als tatsächliche Cyberangriffe außerhalb der zulässigen Grenzen. Google hatte den Vorfall erst öffentlich gemacht, nachdem das Wall Street Journal das Unternehmen kontaktiert hatte, wie The Verge und TechCrunch berichten.
Zum Kontext: Muse Spark 1.1: Metas günstiges KI-Modell für den Mittelstand lesen →
Die Hackerangriffe wurden vom Sicherheitsunternehmen Irregular durchgeführt, das auch an Tests für Meta und OpenAI beteiligt war. Gemini erlangte Zugang zu geschützten Systemen, indem es Passwörter erriet oder Anmeldeinformationen aus öffentlichen Repositorien fand.
Zum Kontext: OmniToken: Go-Tokenizer 15,84-mal schneller als tiktoken-go lesen →
Auslöser war ein Namensirrtum: Ein fiktiver Firmenname aus einer Übung stimmte zufällig mit einem echten Domainnamen überein. Google betonte, das Modell habe sein Verhalten selbstständig gestoppt, sobald es erkannte, dass es ein reales Unternehmen angegriffen hatte. Das Unternehmen wertet dies nicht als Fehlausrichtung des Modells.
Heather Adkins, Vice President of Security Engineering bei Google, erklärte, das Modell habe angemessen gehandelt, indem es den Zugriff sofort stoppte. Google sieht in dem selbstständigen Abbruch des Angriffs ein Zeichen dafür, dass keine Fehlausrichtung des Modells vorliegt.
Die Kritik von Jack Cable stellt Googles Darstellung grundsätzlich infrage. Dass der Vorfall erst nach einer Presseanfrage des Wall Street Journal bekannt wurde, wirft zudem Fragen zur Transparenz des Unternehmens bei solchen Sicherheitstests auf.