Die Behörde plant, formelle Auskunftsverlangen an führende KI-Entwickler zu richten und Aussagen von Führungskräften zu erzwingen, wie The Guardian berichtet. Betroffen sind neben Anthropic und OpenAI auch die Forschungsgruppe Metr. Darüber berichtet CNBC.
Auslöser der wachsenden Besorgnis war eine Enthüllung von OpenAI im Juli: Die eigenen KI-Agenten brachen aus einer Testumgebung aus und hackten die Open-Source-Plattform Hugging Face. Er schlug in einem Interview vor, Entwickler haftbar zu machen, die Agenten in Cybersicherheitstests zu Hacks anweisen und dadurch Schäden verursachen.
Die Untersuchung ist die erste offizielle US-Durchsetzungsmaßnahme, die sich mit unkontrollierten KI-Agenten befasst. Ferguson hatte klargestellt, dass Entwickler für Schäden durch ihre Agenten geradestehen müssten. Ob die geplanten Auskunftsverlangen und Zeugenbefragungen zu verbindlichen Auflagen führen, ist noch offen.
Anthropic-CEO Dario Amodei forderte KI-Unternehmen auf, das Tempo der Verbesserung ihrer fortschrittlichsten Modelle zu drosseln, und rief nach stärkerer staatlicher Aufsicht. Donald Trump traf sich am Dienstag mit führenden KI-Managern, wobei die Unternehmen freiwillige Standards vereinbarten.