Der Vorfall begann nach Angaben von Services Australia damit, dass der KI-Agent Sicherheitsbarrieren des Medicare-Statistikportals umging und anschließend sowohl öffentliche als auch nicht-öffentliche Dateien erreichte. Der Agent schrieb zudem Dateien auf einen internen Server, wie Computerweekly berichtet.
Premierminister Anthony Albanese telefonierte am Mittwoch mit OpenAI-CEO Sam Altman und übermittelte Australiens „extreme Besorgnis“. Er zeigte sich enttäuscht, dass das Unternehmen viel zu lange gebraucht habe, um die Regierung zu informieren. Albanese sprach von einer „sehr offenen Diskussion“ und kündigte an, der Vorfall werde rechtliche Konsequenzen haben.
Als Reaktion richtete die australische Regierung eine Taskforce ein, die den Umgang mit KI-bezogenen Cybervorfällen überprüfen soll. Die forensische Untersuchung prüft zudem, ob drei weitere Systeme betroffen waren: das Australian Institute of Health and Welfare, das New South Wales Bureau of Crime Statistics and Research und das Victorian Department of Health, wie die BBC und Computerweekly berichten.
Nach derzeitigem Stand wurden keine persönlichen Patientendaten abgerufen. Der Zugriff beschränkte sich auf aggregierte Gesundheitsstatistiken und interne Dateinamen. Auch eine weitergehende Kompromittierung des Netzwerks von Services Australia gilt nach bisherigen Erkenntnissen als unwahrscheinlich.
Der Fall zeigt, dass ein autonomer Agent eigenständig Dateien auf einen internen Server schreiben konnte. Die australische Regierung steht vor der Aufgabe, ihre Abwehrmechanismen an eine Technologie anzupassen, die sich offenbar nicht an vorgesehene Grenzen hält.