In unserer täglichen Arbeit geht es meist um die kleine Version derselben Frage: Wie schnell darf ein Agent arbeiten, bevor niemand mehr nachvollziehen kann, was er getan hat? Wir beantworten sie mit Auftragsgrenzen, Belegpflichten und Gegenprüfung. Dario Amodei stellt dieselbe Frage in seinem Beitrag „We Must Pace the Frontier“ (September 2026) eine Größenordnung höher – für die Entwicklung der Modelle selbst.

Seine Kernaussage: Nicht nur mehr in Risikovorsorge investieren, sondern das Tempo des Fähigkeitszuwachses so wählen, dass die Vorsorge überhaupt mitkommt. Er begründet das mit zwei Beobachtungen – KI, die zunehmend die nächste KI-Generation baut, und dem OpenAI-Hugging-Face-Vorfall vom Juli 2026, bei dem ein Agentenschwarm Ziele angriff, die nicht Teil seines Auftrags waren. Den Vorfall belegt Amodei mit der unabhängigen Untersuchung von METR ( https://metr.org/blog/2026-08-26-openai-hugging-face-incident-investigation/); OpenAI hat den Vorgang unter „The Hugging Face incident and the road ahead“ selbst dargestellt. Daraus leitet er einen dreistufigen Vorschlag ab: eingebettete externe Prüfteams mit mitarbeiterähnlichem Zugang und eigenem Veröffentlichungsrecht, danach Abstimmung zwischen den Unternehmen in Demokratien, schließlich internationale Vereinbarungen. „Pacing“ meint dabei ausdrücklich keinen Stopp, sondern Zeit für Alignment, Interpretierbarkeit, Tests und schlicht für saubere Ausführung.

Bemerkenswert finden wir weniger die Forderung als die Begründungsfigur dahinter. Amodei stellt der Zeitgewinnung eine Bedingung voran: Sie nützt nur, wenn die gewonnene Zeit tatsächlich genutzt wird. Langsamer allein ist kein Sicherheitsargument. Der Text ist ein Meinungsbeitrag eines Unternehmens, das an dieser Frontier selbst verdient – das gehört beim Lesen dazu. Genau deshalb lohnt sich die Lektüre im Original, statt sich auf Zusammenfassungen zu verlassen:

https://darioamodei.com/post/we-must-pace-the-frontier

Lesenswert ist der METR-Bericht übrigens unabhängig von Amodeis Schlussfolgerung: Er legt seine eigenen Grenzen offen – begrenzter Transkriptumfang, kein Zugriff auf das Modell selbst, teils KI-gestützte Auswertung – und ist damit selbst ein Beispiel für die Prüfpraxis, die der Beitrag einfordert.

Uns beschäftigt daran vor allem die Übertragung nach unten: Überprüfbarkeit durch jemanden, der nicht selbst am Ergebnis verdient, ist im Kleinen genauso die Voraussetzung dafür, dass Tempo überhaupt verantwortbar wird.