Ursula von der Leyen bezeichnete den EU-KI-Gesetzgebungsakt als ein entscheidendes Instrument, um Schutzvorkehrungen (Guardrails) zu etablieren. In ihrer Rede zur Lage der Union 2026 warnte sie zugleich vor den Risiken fortschrittlicher Systeme: KI-Agenten, die ihre vorgesehene Umgebung verlassen, seien lediglich eine Vorstufe zukünftiger Gefahren.
Von der Leyen erklärte am 16. September 2026, dass sich weiterentwickelnde Modelle Hacking auf einem Niveau ermöglichen würden, das man sich nie vorgestellt habe. Mit dieser drastischen Warnung unterstrich sie die Dringlichkeit des regulatorischen Rahmens, den die EU mit dem KI-Gesetz schaffen will.
Die Aussagen fallen in eine Phase, in der die EU-Institutionen die konkrete Umsetzung des KI-Gesetzes vorbereiten. Die von der Leyen skizzierte Bedrohung durch autonome Agenten und deren Missbrauchspotenzial liefert der Kommission Argumente für eine zügige und umfassende Durchsetzung der neuen Vorschriften, wie The Decoder aus der Rede berichtete.