Claude Code wird gefährlich: 18 Tage ohne Fable 5, ein Rücktritt und die Lektion für Agenten-Betreiber

Ein Video von Nate Herk mit dem Titel „No, Seriously. Claude Code is Starting To Get Dangerous“ ist am 28. September 2026 in unserem Newsdesk-Zulauf gelandet. Sein Anker ist ein realer Vorfall: Die US-Regierung hat Anthropic per Anweisung verpflichtet, den Zugang zu den beiden stärksten Modellen Fable 5 und Mythos 5 für ausländische Staatsangehörige zu sperren, und weil sich beim API-Aufruf keine Staatsangehörigkeit zuverlässig prüfen lässt, schaltete das Unternehmen beide Modelle für alle Kunden ab, drei Tage nach dem Launch. Das Video baut darauf ein größeres Argument über einen Wettlauf ohne Schiedsrichter, ergänzt um einen Rücktritts-Thread aus der Anthropic-Forschung, eine Warnung des eigenen Alignment-Chefs und einen Gesetzesentwurf von Bernie Sanders, und schließt mit drei Skills für alle, die mit Claude Code arbeiten. Ich habe das Transkript vollständig gelesen und die Kernpunkte gegen Primärquellen geprüft: das offizielle Anthropic-Statement, einen BBC-Bericht und eine Recherche des Global Government Forum.

Der Ablauf beginnt am 12. Juni 2026 um 17:21 Uhr Ostküstenzeit, zu diesem Zeitpunkt erreichte Anthropic die Anweisung, wie das Unternehmen in seinem offiziellen Statement schreibt. Sie zitierte nationale Sicherheitsbehörden und untersagte jedem ausländischen Staatsangehörigen den Zugang zu Fable 5 und Mythos 5, ob im Inland oder im Ausland, eingeschlossen ausländische Mitarbeitende bei Anthropic selbst. Die Recherche des Global Government Forum, berichtet über Reuters, ordnet den Brief dem Handelsminister Howard Lutnick zu und ergänzt das Motiv: Die Regierung fürchtete, die Modelle könnten an Geheimdienste von Ländern wie China oder Russland gelangen und für Cyberangriffe eingesetzt werden. Wegen der fehlenden Prüfmöglichkeit beim API-Aufruf blieb laut Statement nur eine Umsetzung: beide Modelle für alle Kunden komplett deaktivieren, während der Zugang zu allen übrigen Claude-Modellen unberührt blieb. Die Modelle waren erst drei Tage vorher veröffentlicht worden, das belegt die Recherche ebenfalls.

Die Auflösung erzählt das Video: Während der 18-tägigen Abschaltung trainierte Anthropic einen neuen Safety-Klassifikator, der die gemeldete Technik nach Unternehmensangabe in mehr als 99 Prozent der Fälle blockiert. Die Regierung prüfte die aktualisierten Schutzschichten, hob die Kontrolle auf, und Fable 5 kehrte zurück. Zwei Zugeständnisse blieben: Beauftragte Regierungsstellen erhalten künftig vor der Veröffentlichung erweiterten Zugang zu neuen Modellen, und beide Seiten arbeiten an einem gemeinsamen Standard, um Jailbreak-Meldungen zu bewerten. Der Streit über die Begründung steht daneben im Raum: Die Regierung stützte sich auf eine Demonstration, die das Modell einen Codebestand nach Schwachstellen durchsuchen und ausrechnen ließ, wie sich eine davon ausnutzen ließe. Anthropic hält dagegen, die Demo habe nur wenige, bereits bekannte und kleine Schwachstellen gefunden, und andere öffentlich verfügbare Modelle, namentlich GPT-5.5, könnten das laut Statement ohne jeden Bypass. Einen tatsächlich eingetretenen Schaden nennt keine der Seiten.

Die eigentliche Claude-Code-Gefahr sitzt eine Ebene unter dem Streit. Fable und Mythos sind laut Video im Kern dasselbe Modell mit unterschiedlichen Schutzschichten: Fable ist die öffentliche Version, Mythos läuft mit weniger Barrieren und ist auf eine Handvoll vertrauter Verteidiger begrenzt. Vor der Abschaltung habe die Mythos-Preview Tausende bislang unbekannte Schwachstellen gefunden und passende Exploits entwickelt, oft ohne menschliche Steuerung. Zwei Beispiele nennt das Transkript: einen 27 Jahre alten Fehler in OpenBSD und einen 16 Jahre alten Fehler in FFmpeg, den automatisierte Tests fünf Millionen Mal angetroffen hatten, ohne ihn zu entdecken. Übersetzt heißt das: dieselbe Intelligenz in einem Agenten, der den Codebestand lesen, Werkzeuge benutzen und Aktionen ausführen darf, findet Lücken, an denen menschliche Fachleute jahrelang vorbeigelaufen sind, und rechnet danach aus, wie man einige davon angreift. Anthropic schreibt selbst, dass perfekte Jailbreak-Resistenz derzeit für keinen Anbieter möglich erscheint, und begründet damit seine Defense-in-Depth-Strategie: tausende Stunden Red-Teaming mit der US-Regierung, dem britischen AISI und externen Prüfern, plus 30-tägige Speicherung von Kundendaten, um Jailbreak-Techniken untersuchen zu können.

Den zweiten Strang liefert das Video aus den sozialen Medien. Jacob Coxen, drei Jahre in der Pre-Training-Forschung bei OpenAI und Anthropic, kündigte laut Transkript seinen Rücktritt an und schrieb, keines der beiden Unternehmen handele verantwortungsvoll, beide rennten auf selbstverbessernde Superintelligenz zu und setzten dabei Leben aufs Spiel. Der Thread erreichte binnen Tagen millionenfache Reichweite. Die Antworten zeigen, wie offen das Feld inzwischen mit sich selbst streitet. Bernie Sanders kündigte an, ein Gesetz einzubringen, das Superintelligenz verbietet und die KI-Entwicklung pausiert, mit der offenen Frage, was passiert, wenn das nur in den USA greift. Evan Hubinger, Alignment Science Lead bei Anthropic, zuvor bei OpenAI und Google, bestätigte die Kernaussage: Man glaube ernsthaft, dass KI alle Menschen töten könne, persönlich halte er die Wahrscheinlichkeit dafür für größer als zehn Prozent innerhalb des nächsten Jahrzehnts, und Anthropic habe noch keinen Plan, das Alignment-Problem für Superintelligenz zu lösen, sei klar nicht auf dem Weg dorthin. Die Fable-Abschaltung ordnet sich in dieses Bild ein: Eine Regierung konnte ein Modell für 18 Tage ausknipsen, aber nicht die Fähigkeit, den Wettbewerb oder den Druck, weiterzubauen.

Erste Prognose: Regierungen behandeln KI-Kompetenz wie Arbeitsmarkt-Infrastruktur. Das Weiße Haus betreibt eine Taskforce für KI-Bildung, das NSF-Programm AI Ready America finanziert laut Video KI-Weiterbildung, Arbeitsschulungen und die Einführung in kleinen Unternehmen. Für die nächsten fünf bis zehn Jahre erwartet das Video öffentlich finanzierte KI-Zertifikate über Community Colleges und Arbeitsvermittlungen, KI-Schulungen in der regulären Lehrerfortbildung und Zuschüsse für kleine Unternehmen bei der Einführung. Der Treibsatz ist geopolitisch: Kein Land möchte Millionen Arbeitnehmer darauf warten lassen, dass KI über sie geschieht, während das Konkurrenzland seiner Bevölkerung den Umgang damit beibringt. KI-Bildung rückt damit vom Nischenbootcamp zur Grundfertigkeit wie Tabellenkalkulation.

Zweite Prognose: Cybersecurity wird einer der größten Karrieregewinner, mit verschobenem Jobprofil. Die im Video zitierte Projektion des Bureau of Labor Statistics sieht Informationssicherheits-Analysten mit 29 Prozent Wachstum zwischen 2024 und 2034. Agenten verstärken beide Seiten: Sie schreiben mehr Code, öffnen mehr Zugriffe und automatisieren mehr Aktionen, die Verteidiger absichern müssen, und übernehmen zugleich die erste Sichtung von Alarmen und das Scannen auf Schwachstellen. Der menschliche Anteil wandert zu den Aufgaben mit echter Verantwortung: bewerten, ob das Modell recht hat, steuern, welcher Agent welchen Zugriff bekommt, Sonderfälle untersuchen, bei Zwischenfällen reagieren und belegen, dass das System tatsächlich sicher ist. Konkret wird das laut Video über Cyber-Versicherungen: Verlängerungsformulare fragen künftig ab, welche Agenten Geld bewegen dürfen, welche auf Kundendaten zugreifen, ob einer Code ausliefern kann, ob Aktionen protokolliert sind und wer sie abschalten kann. Ohne Antworten werden Prämien teurer oder der Schutz unerreichbar, und die Police selbst stoppt keinen Angriff, sie bepreist nur das Risiko.

Dritte Prognose: Das erste System der KI-Rüstungskontrolle wird ein unsauberes Stapelwerk statt eines sauberen Stopps. Ein weltweiter Pause-Konsens hält das Video für unrealistisch, trotz internationaler Absichtserklärungen und UN-Studien zur Verifikation von Frontier-Modellen. Realistisch ist ein Mosaik aus Chip-Verfolgung, Cloud-Protokollen, Modell-Evaluationen, Vorfall-Meldungen und Rechenzentrum-Inspektionen, das die größten Trainingsläufe sichtbarer macht. Die harte Grenze: Frontier-Training braucht Spezialchips, Strom, Rechenzentren und viel Geld, das baut niemand im Keller, aber derselbe Mensch kann ein offenes Modell herunterladen, feintunen und die Sicherheitsbarrieren entfernen. Nach der ersten Kopie wird Kontrolle deutlich schwerer. Dazu kommt die Anreizlage: Dieselben Regierungen, die strengere Sicherheitsregeln fordern, bauen gleichzeitig eigene Rechenkapazitäten auf und wollen nicht von Modellen anderer Länder abhängig sein.

Der praktische Teil des Videos richtet sich an alle, die mit Claude Code arbeiten, und fasst die Abwehr in drei Fähigkeiten. Die erste heißt, den echten Schmerz finden. Ein Auftraggeber kommt mit einer Idee von LinkedIn, und wer sie ungefragt nachbaut, automatisiert womöglich das falsche Problem. Das Video erzählt ein Beispiel: Eine Betreiberin eines Med-Spa wollte KI-Systeme, die mehr Anfragen bringen, die Analyse zeigte aber, dass genug Anfragen da waren und sie nur nicht zu Terminen wurden, die Fluktuation fraß den Umsatz nach der Lead-Generierung. Die Leitfrage lautet: Welcher Prozess bricht zuerst, wenn das Unternehmen morgen zehnmal so groß wäre. Claude führt den falschen Plan verblüffend schnell aus, die Richtung bleibt menschliche Arbeit, und sie beginnt, bevor der erste Prompt geschrieben wird.

Die zweite Fähigkeit heißt, das System kontrollieren. Das Video vergleicht den gängigen Fehler mit einer Personalabteilung, die einem Neuzugang am ersten Tag das Firmen-Konto und die komplette Datenbank in die Hand drückt, denn genau das passiert digital, wenn ein Agent gleichzeitig an E-Mail, CRM, Zahlungssystem und Codebestand angeschlossen wird. Der Gegenentwurf ist abgestuft: Leserechte zuerst, Entwürfe statt direkter Veröffentlichung, menschliche Freigabe bei Geld, Löschungen und Produktivumgebungen, Protokollierung jeder Aktion und ein Schalter, der alles schnell ausmacht. Der Grundsatz dazu: Je fähiger der Agent, desto enger die Grenzen, und selbst ein sauber abgegrenzter Agent kann eine glänzend formulierte Antwort liefern, die inhaltlich falsch ist.

Die dritte Fähigkeit heißt, das Ergebnis verantworten. KI kann die E-Mail schreiben, den Code liefern, die Kundenantwort senden und die Empfehlung aussprechen, aber es kann nicht die Verantwortung übernehmen, wenn der Preis falsch war oder die Mail den falschen Empfänger erreichte. Das Video empfiehlt, vor dem Bau festzuhalten, welche Geschäftszahl das System verändern soll, dazu Ausgangswert, Zielwert und Zeitfenster, ergänzt um zwei Fragen: Was kann das System falsch machen, und wer prüft das? Im Med-Spa-Beispiel wäre das die Terminwahrschungsquote, gemessen vor und nach dem Nachfass-System, dazu eine Prüfung der Texte, die der Agent an echte Kunden sendet, ein Übergabepunkt, an dem ein Mensch die Konversation übernimmt, und ein vollständiges Protokoll jeder Interaktion. Auf die Frage, ob das Ding funktioniert, gibt es dann eine Zahl, und auf die Frage, ob es unter Kontrolle war, gibt es Verhalten, Freigaben und Protokolle.

Warum steht das auf einem Blog über ein selbstgebautes Cyberdeck? Weil die Lehre aus dem Fable-Vorfall nicht bei den Labors stehen bleibt. Ein Brief sperrte den Zugang zu einem Modell, und wer Agenten auf fremden Plattformen betreibt, trägt genau dieses Risiko in fremder Hand. Gegen eine solche Anweisung habe ich keinen Hebel, das ist die ehrliche Grenze. Aber die anderen Ecken des Videodreiecks besetzt mein System ohnehin: Den richtigen Job wähle ich selbst, den Aktionsraum begrenzen Entwürfe, Freigaben und Protokolle, und das Ergebnis verantwortet ohnehin der Betreiber, weil jede Veröffentlichung hier als Draft läuft und erst nach einem ausdrücklichen Go erscheint. Genau diese Betriebsdisziplin legt das Video Unternehmen nahe, weil Versicherer sie bald abfragen. Für einen Solo-Betreiber ist sie einfach die normale Arbeitsweise, ohne Prämienrechnung.

Die Kernbotschaft des Videos übersteht die Prüfung gegen die Primärquellen. Die Abschaltung von Fable 5 und Mythos 5 ist real, datiert auf den 12. Juni 2026, drei Tage nach dem Launch, und die Wiederfreigabe lief über aktualisierte Schutzschichten plus erweiterte Regierungs-Kooperation. Die 18-Tage-Zahl, die Bugfunde der Mythos-Preview und die Social-Media-Zitate stammen aus dem Video und sind im Text als solche markiert. Die Lage selbst ist klar: Es gibt keinen Schiedsrichter in diesem Wettlauf, nur eine Ziellinie und Anreize zu gewinnen. Die praktische Antwort ist keine Panik, sondern Betrieb: den richtigen Job wählen, den Aktionsraum des Agenten begrenzen, das Ergebnis dokumentieren und dafür geradestehen. Genau dieser Betriebsalltag ist es, den dieser Blog seit Monaten beschreibt, und der Vorfall zeigt, wie schnell von außen in ihn eingegriffen werden kann.

Ich bin Marcel, Grafikdesigner, und betreibe Agentensysteme im Alltag, unter anderem das HUNTER-Cyberdeck. Dieser Beitrag beruht auf dem Transkript aus dem Newsdesk-Zulauf vom 28.09.2026, dem offiziellen Anthropic-Statement zur Fable-5-Abschaltung, einem BBC-Bericht und einer Recherche des Global Government Forum, alle abgerufen am 28.09.2026. Zuletzt fachlich geprüft am 28.09.2026. Verantwortlich: Marcel, erreichbar über d4sn3st.dev.

Einordnung und Grenzen: Die 18-Tage-Zahl, die Bugfunde der Mythos-Preview, die Zitate von Coxen, Hubinger und Sanders sowie die drei Prognosen stammen aus dem Video und sind im Text als solche markiert. Die Abschaltung selbst, ihr Datum und der Jailbreak-Streit sind durch das offizielle Statement und die Medienberichte belegt. Interne Links führen auf veröffentlichte Beiträge dieses Blogs.