Jacob Coxon, zuvor rund drei Jahre im Pretraining bei OpenAI und Anthropic, kündigte bei Anthropic. Seine Begründung: Beide Labs würden unverantwortlich auf selbstverbessernde Superintelligenz zulaufen und mit unserem Leben spielen. Er war nur gut zwei Monate bei Anthropic.
Kurz darauf bestätigte Evan Hubinger, Alignment-Forscher bei Anthropic, öffentlich den Kern von Coxons Warnung. Wenige Tage später fordert Anthropic-CEO Dario Amodei, das Tempo der Frontier-Entwicklung zu drosseln. Sam Altman und Elon Musk signalisieren Unterstützung.
Man kann diese Sequenz auf zwei Arten verstehen. Beide erklären dieselben Ereignisse. Sie unterscheiden sich darin, welches Spiel gespielt wird.
1. Die Angst ist echt
Dann ist Coxons Exit kein Auftakt einer Kampagne, sondern eine ehrliche und teure Warnung. Er gibt seine Position auf und verzichtet auf noch nicht gevestete Anteile. Das beweist nichts. Aber es macht seine Warnung schwerer als bloßes Marketing abzutun.
Danach entsteht eine Informationskaskade: Coxon macht öffentlich, was offenbar intern diskutiert wird. Hubinger bestätigt, dass diese Risiken ernst genommen werden. Aus interner Angst wird öffentliches Wissen darüber, dass auch andere Angst haben.
Und damit verändert sich das Spiel.
Das Frontier-Rennen ist ein Gefangenendilemma: Wer allein bremst, riskiert Marktanteile und technologische Führung. Wenn niemand bremst, steigt das gemeinsame Risiko. Regulierung könnte dann erzwingen, was freiwillige Selbstbeschränkung nicht schafft: dass alle gleichzeitig bremsen.
In dieser Lesart ist die Angst echt. Die mediale Wucht ist Folge, nicht Mittel.
2. Alles folgt einem Drehbuch
Nicht zwingend als Lüge oder Verschwörung. Sondern als Möglichkeit, dass echte Angst gleichzeitig politisch und wirtschaftlich nützlich ist.
a) Angst als politische Währung
Wenn intern tatsächlich etwas gesehen wurde, das als potenziell nicht mehr beherrschbar gilt, kann kein einzelnes Unternehmen aus dem Rennen aussteigen, ohne Marktanteile und technologische Führung zu riskieren. Gemeinsam könnte man bremsen - dafür braucht es einen Mechanismus, der alle bindet.
Öffentliche Angst verändert die politische Gleichung. Regulierung erscheint nicht mehr als Fortschrittsfeindlichkeit, sondern als Sicherheitsmaßnahme. Die Labs liefern das Narrativ, die Politik bekommt den nötigen Rückhalt.
Nicht Angst gegen Regulierung, sondern Angst als Voraussetzung für Regulierung.
b) Regulierung als Kostenbremse
Je näher man an bestimmte Leistungsgrenzen kommt, desto teurer wird jeder weitere Schritt: Compute, Infrastruktur, Energie, Kapital, Sicherheitsaufwand. Gleichzeitig stehen die Labs unter enormem Wachstums- und Renditedruck.
Eine koordinierte Verlangsamung würde deshalb nicht nur das Risiko senken. Sie würde auch den Zwang reduzieren, immer schneller und teurer zu skalieren. Wenn alle bremsen, muss keiner mehr um jeden Preis schneller sein als der andere.
Echte Sicherheitsbedenken und handfeste ökonomische Interessen können gleichzeitig existieren.
c) Safety als Bestandssicherung
Wenn Agenten irgendwann autonom genug werden, sich dem Zugriff ihrer Entwickler zu entziehen, ist das nicht nur ein moralisches Problem. Es ist auch ein ökonomisches. Wer das System nicht mehr kontrolliert, kontrolliert irgendwann auch nicht mehr, wer damit Geld verdient, wem es nützt und wer für Schäden haftet.
Die Wertschöpfung könnte denjenigen entgleiten, die die Systeme gebaut haben.
Regulierung wäre dann auch der Versuch, Kontrolle zurückzukaufen, bevor der Markt sie entzieht.
Niemand kann derzeit wissen, welches dieser Motive hinter dem steht, was wir beobachten. Vielleicht ist das Frontier-Rennen tatsächlich ein Gefangenendilemma, aus dem die Beteiligten allein nicht herauskommen.
Vielleicht greifen aber längst alle drei Dinge ineinander: echte Angst, politische und ökonomische Interessen.
Spieltheorie liefert dafür keine Gewissheit - nur Erklärungsansätze.