Als Reaktion auf die Risiken schlug Amodei einen dreistufigen Rahmen vor

Als Reaktion auf die Risiken schlug Amodei einen dreistufigen Rahmen vor, der darauf abzielt, die Steigerung der Fähigkeiten zu verlangsamen, anstatt die KI-Entwicklung ganz auszusetzen.

Amodei forderte demokratische Regierungen auf, bei der Festlegung gemeinsamer Sicherheitsstandards für KI-Unternehmen zu helfen und schließlich eine internationale Koordination auch mit Ländern wie China anzustreben.

Anthropic wird als ersten Schritt eingebettete Drittanbieter-Evaluatoren zulassen, die mit Zugang wie Mitarbeiter die Sicherheitspraktiken prüfen und deren Ergebnisse öffentlich berichten sollen.

Elon Musk, Chef von xAI, stimmte Amodeis Ansichten zu und schrieb in einem Post auf X: „Dario ist richtig“.

Amodei begründet den Aufruf zur Verlangsamung damit, dass die Sicherheitserforschung mit der Geschwindigkeit immer leistungsfähigerer Modelle nicht Schritt halten kann.

Amodei betonte, dass die Vorteile der KI nur dann erreicht werden können, wenn die Technologie auf dem richtigen Weg gebaut wird, und verwies auf das Potenzial, die meisten großen Krankheiten in den nächsten fünf bis zehn Jahren zu heilen.

Amodei warnte davor, dass autonome KI-Agenten innerhalb von sechs bis zwölf Monaten das gesamte Internet mit einem persistenten Botnet übernehmen könnten, wenn sich die Schutzmaßnahmen nicht verbessern.