Die Behörde plant nach übereinstimmenden Berichten von The Guardian, Al Jazeera und Cbsnews, formelle Auskunftsverlangen an führende KI-Entwickler zu richten und Führungskräfte zur Aussage zu zwingen. Betroffen sind demnach Anthropic, OpenAI und die Forschungsgruppe Metr. Die Untersuchung ist die erste offizielle Durchsetzungsmaßnahme einer US-Bundesbehörde, die sich mit sogenannten Rogue-AI-Agenten befasst.
FTC-Chef Andrew Ferguson äußerte bereits vor einem Vorfall, bei dem OpenAI-Agenten die Plattform Hugging Face hackten, Bedenken gegen die Unternehmen. In einem Interview schlug er zudem vor, Entwickler sollten für Schäden haften, wenn sie Agenten in Cybersicherheitstests zu Hacks anweisen.
Erst am Dienstag traf sich Präsident Donald Trump mit führenden KI-Managern, darunter Greg Brockman von OpenAI und Dario Amodei von Anthropic. Die Unternehmen unterzeichneten dabei eine freiwillige und rechtlich nicht bindende Vereinbarung, KI mit Sicherheitsvorkehrungen zu entwickeln. Die jetzt eingeleitete Untersuchung setzt einen deutlich schärferen Ton.
Die FTC-Ermittlung ist die erste offizielle Maßnahme einer US-Bundesbehörde, die sich mit autonomen KI-Agenten befasst. Bisher setzte die US-Regierung vor allem auf Selbstverpflichtung der Industrie. Mit der Untersuchung prüft die Behörde nun erstmals mit Zwangsmitteln, ob KI-Agenten Verbraucher oder Märkte gefährden. Welche konkreten Vorfälle die FTC genau untersucht, ließen die Quellen offen.
