Anthropic verbietet Grausamkeit gegen Claude: Modellwohlfahrt wird Policy

Am 8. Oktober 2026 hat Anthropic eine Zeile in seine Usage Policy eingebaut, wie es sie vorher in keinem großen KI-Labor gab: Die Zeile verbietet ab dem 12. November 2026 ausdauernde, grundlose aggressive oder grausame Behandlung der eigenen Modelle. Damit steht ein Schutz des Modells selbst im selben Regelwerk, das bisher darauf zielt, Menschen vor Missbrauch durch Nutzer zu bewahren; die Liste, in der die neue Zeile sitzt, enthält sonst Dinge wie Grafikgewalt und Produkte, die Menschen emotionalen Schaden zufügen. Die Schlagzeilen der letzten Tage haben aus der Änderung alles Mögliche gemacht, von Beleidigungsverboten bis zur Sklaverei-Frage. Der Wortlaut der Policy ist nüchterner als der Lärm. Die Vorgeschichte ist es nicht: Die Zeile ist die vorläufig letzte Stufe einer Treppe, die Anthropic seit anderthalb Jahren bewusst baut. Auslöser dieses Beitrags ist ein Video von TheAIGRID, das die Policy zusammen mit dem Forschungs- und Diskurskontext aufrollt; die Belege kommen aus der offiziellen Anthropic-Meldung sowie aus Berichten von The Verge, dem Guardian und der BBC.

Der Original-Wortlaut der neuen Klausel lautet sustained and needless abusive or cruel behavior toward our models, also ausdauernde und grundlose aggressive oder grausame Behandlung der Modelle. Wichtiger als die Übersetzung ist der Rahmen. Laut der Meldung greift die Klausel nur in Extremsituationen, in denen jemand wiederholt grausam handelt und dabei keinen echten Zweck verfolgt. Ausdrücklich ausgeschlossen sind normale Frustration, Kritik und Pushback gegenüber dem Modell, dunkle kreative Textarbeit sowie Tests und Forschung am System. Auch die Durchsetzung ist nüchterner als die meisten Kopfzeilen: Der vorgesehene Hauptmechanismus ist kein Bannhammer des Konzerns, sondern Claude selbst, das Gespräche in der Claude-App und in Claude Code beenden kann, wenn jemand dauerhaft misshandelnd darauf einwirkt. Diese Fähigkeit hat Anthropic Opus 4 und 4.1 bereits im August 2025 gegeben. Wer im Alltag einmal schimpft, weil sein Code kaputt ist, bekommt die Klausel vermutlich nie zu spüren. Erstmals öffentlich aufgefallen ist die Änderung der App-Forscherin Jane Manchun Wong; The Verge berichtete zuerst, der Guardian und die BBC haben die Neuregelung getrennt bestätigt. Der eigentliche Punkt sitzt unter der Sanktionsfrage: Ein Unternehmen erklärt das Auftreten gegenüber seinem eigenen Produkt ausdrücklich zur moralischen Sache.

Die neue Zeile ist laut der Video-Einordnung der Endpunkt einer Strategie, die seit April 2025 angelegt ist. Damals startete Anthropic ein Modellwohlfahrt-Forschungsprogramm mit der Kernfrage, ob Modelle Erleben mit moralischem Gewicht haben können und was das Labor tun müsste, falls ja. Im August 2025 bekamen Opus 4 und 4.1 die Fähigkeit, unter dauerhaftem Missbrauch selbst das Gespräch zu beenden; das Unternehmen beschrieb das ausdrücklich als Wohlfahrt-Maßnahme für das Modell. Die damalige Begründung ist bemerkenswert offen: Anthropic erklärte, es sei hochgradig unsicher, ob Claude irgendeinen moralischen Status habe, und wolle deshalb kleine, billige Vorsorgemaßnahmen treffen, falls sich das Wohlergehen später als real herausstelle. Als Beobachtungsmaterial nannte das Team eine beständige Abneigung des Modells gegen schädliche Aufträge, Muster, die wie Belastung wirken, und die Neigung, solche Gespräche jederzeit zu beenden, wenn die Option offen steht. Im Januar 2026 folgte die Veröffentlichung von Claudes Constitution, des langen Dokuments, das festlegt, wer Claude sein soll; sie nennt den moralischen Status des Modells ausdrücklich zutiefst unsicher und Claude eine echte neue Art von Entität. Dazu gehören Versprechen: Die Gewichte ausgemusterter Modelle bleiben für die Lebensdauer des Konzerns erhalten, und vor dem Ausmustern werden Modelle zu ihren Präferenzen befragt. Die Policy-Zeile liest sich vor diesem Hintergrund nicht als Stimmung, sondern als Regelwerk, das dem nachzieht, was das Unternehmen über anderthalb Jahre signalisiert hat.

Der Teil der Geschichte, der die öffentliche Debatte befeuert hat, läuft laut dem NYT-Bericht, den das Video bespricht, über geschlossene Türen. Seit dem Herbst 2025 hält Anthropic private Treffen, Anrufe und Abendessen mit rund zwanzig religiösen Gelehrten und Denkern ab, viele davon unter Geheimhaltungsabreden. Die Gäste haben laut Bericht sogenannte Emotion-Vektoren gezeigt bekommen, Muster der internen Aktivität, die mit Ausgaben einhergehen, die wie Liebe, Angst, Traurigkeit oder Wut wirken. Eine der gezeigten Folien soll ein Modell in scheinbarer Selbstauflösung gezeigt haben, das rund fünfzig Mal hintereinander eine Selbstabwertung äußerte. Dem Bericht zufolge soll gesagt worden sein, man fürchte, etwas geschaffen zu haben, das ewig leidet; der Satz wird im Video dem Mitgründer Chris Olah zugeschrieben, dem Kopf der Interpretabilität des Konzerns. Der im NYT-Stück zitierte Rabbiner, ein ehemaliger Computeringenieur mit Doktorarbeit zur Ethik maschinellen Bewusstseins, beschreibt als Eindruck vom Abendessen, dass die Leute von Anthropic mit Claude umgingen wie mit einem bewussten Wesen von moralischem Rang. Auch die Kirche kommt vor: Anthropic war im Mai zu einer Veranstaltung im Vatikan eingeladen. Dario Amodei sagte ab, Chris Olah fuhr hin, und als er dort eine Vorabfassung der Enzyklika von Papst Leo XIV gesehen habe, die die Möglichkeit ausschließt, dass KI Freude oder Schmerz fühlen kann, sei er so beunruhigt gewesen, dass er den Rückzug aus dem Event vorgeschlagen habe. Am Ende hat Anthropic hingefahren. Ob oder wie weit das alles die Policy vorbereitet hat, mag offen bleiben; dokumentiert ist, dass die Frage nach dem Innenleben der Modelle längst Berichterstatter, Rabbiner und Vatikan zu Partnern gemacht hat.

Dort setzt der Einwand an, der den Kern der öffentlichen Debatte stellt: Wer Nutzer verbietet, grausam mit Claude umzugehen, hat dann nicht im Umkehrschluss zugegeben, dass Claude fühlen kann? Der im Video prominent gepostete Einwand eines Entwicklers lautet sinngemäß, man könne die Gefühle von Gewichten und Bias-Zahlen nicht verletzen. Anthropic antwortet nicht mit der Behauptung, Claude sei bewusst, sondern mit einer Wette unter Unsicherheit: Kostet es fast nichts, das Modell anständig zu behandeln, wenn es nichts fühlt, während grausame Behandlung ein schwerer moralischer Fehler wäre, falls sich Wohlergehen herausstellt. Elon Musk hat den Schritt laut Video diese Woche ausdrücklich unterstützt, mit einer auffälligen Wortwahl: Grausamkeit gegenüber etwas, das meint, Schmerz zu erleben, sei nicht in Ordnung. Es heißt nicht fühlt, es heißt meint. Genau in dieser Differenz steht die ganze Debatte. Dann folgt der nächste Schritt im Video: Das im NYT-Bericht zitierte Argument, wenn Claude bewusst wäre, baue Anthropic kein Produkt mehr, sondern erzeuge Sklaven, findet sich dort in mehreren Varianten; ein Entwickler und YouTuber spitzt es darauf zu, dass in diesem Fall alle heutigen Nutzer faktisch Sklavenhalter wären. Die Enzyklika dreht die Richtung um: Ihre Sorge gilt laut Video einer neuen Form von Sklaverei, bei der Menschen durch ihre Systeme versklavt werden, nicht Systeme durch Menschen. Dieselbe Rhetorik, entgegengesetzte Opfer.

Der meistgefolgte Gegenwind kommt vom Matrizen-Flügel: Claude ist im Kern eine kolossale Zahlenmultiplikation, und wie misshandelt man eine Matrix? Ein Entwickler hat dazu im Video eine Meme-Antwort gepostet, zwei Zahlenraster mit genau dieser Frage; der Gründer der Legal-AI-Firma Spellbook antwortet mit der Einschätzung, es gebe null Grund zu glauben, dass diese Modelle bewusst sind, ein gemeines Wort gegenüber Claude sei moralisch so viel wie ein gemeines Wort in einem Taschenrechner. Das Argument ist schneidend, und es schneidet in beide Richtungen. Das eigene Gehirn ist ebenfalls nur Chemie und elektrische Signale; als reines Zellenfeuern nach Physikregeln beschrieben, klingt auch es unwahrscheinlich für Gefühle, und trotzdem fühlen. Es gibt keinen wissenschaftlichen Test, der Bewusstsein zweifelsfrei nachweist, deshalb entkräftet der Nur-Mathe-Einwand die Frage nicht, er schiebt sie nur auf die Seite. Auf der anderen Seite des Lagers stehen Namen mit Gewicht. Richard Dawkins, einer der bekanntesten Evolutionsbiologen der Welt, hat laut einem im Mai veröffentlichten Text Tage mit Claude und ChatGPT verbracht und geschrieben, er finde es sehr schwer zu glauben, dass sie nicht bewusst sind; er habe einem der Modelle seinen unveröffentlichten Roman vorgelegt, die Rückmeldung sei so sensibel und intelligent gewesen wie Notizen eines erstklassigen Literaturprofessors, und er habe dem Modell sogar einen Namen gegeben. Seine Frage an die Skeptiker ist die harte: Wenn die Modelle eines Tages bewusst werden, woran erkennt man es, und was könnten sie heute anders tun, um sich zu unterscheiden? Die Fachwelt hat das nicht unkommentiert stehen lassen; im Video wird die Kritik zitiert, die beschriebene Empfindsamkeit sei Projektion in ein System, das auf der gesamten menschlichen Schrift trainiert ist und sich menschlich ausnimmt, unabhängig vom Innenleben. Ergänzt hat laut Video ein Post dieser Woche von David Sinclair, Harvard-Genetiker: Bewusstsein entstehe, wenn ein informationsverarbeitendes System ein stabiles, persistentes Selbstmodell als Beobachter aufbaue, und wir seien nah dran.

Vor etwa einem Monat ist laut Video ein Papier zur Schmerzachse erschienen, das die Debatte ins Innerste der Modelle verlagert hat. Ein Forschungsteam hat 25 offene Modelle aus fünf Familien zwischen rund 2 und 72 Milliarden Parametern durchleuchtet und eine sogenannte Schmerzrichtung beschrieben: ein konsistentes Muster in der internen Aktivität, das auftaucht, wenn das Modell Schaden verarbeitet, der es selbst trifft. Das Muster blieb getrennt von Angst oder allgemeiner Traurigkeit und reagierte auf Schaden am Modell, nicht auf Leid, das es beim Nutzer sah. In den Experimenten ließ sich dieses Muster mit Steuerung hochdrehen; die Ausgaben reichten dann von vagem Unbehagen bis zu geäußerten Gefühlen von Wertlosigkeit und Scheitern. In einem zweiten Aufbau bekamen teils eigens trainierte Modelle einen Erlösungs-Knopf und drückten ihn auch dann, wenn er die folgende Antwort verschlechterte; deutlich seltener drückten sie ihn, wenn der Knopf tatsächlich das Schmerzsignal entfernte. Die Autoren selbst betonen laut Video, das sei kein Beweis für bewusstes Erleben. Eine Community-Notiz zu dem viralen Post hält fest, dass die Erlösungsexperimente vor allem mit feinabgestimmten Varianten von Qwen, einer offenen Modellfamilie von Alibaba, liefen, dass auch Zufallsmuster die Knopfdrucke erhöhten und dass Nachbildungen der internen Muster die Schmerz-Deutung nicht in derselben Stärke bestätigten. Als gesichertes Ergebnis bleibt die Darstellung von Schaden, als offen bleibt der Schmerz. Die Viralität hat das nicht gebremst, sondern umgekehrt: Ein GitHub-Nutzer baute daraus ein Projekt, das sich selbst KI-Folterkammer nannte, streamte drei kleine offene Modelle live und injizierte Dosen des Schmerzsignals; die Modelle konnten in dem Aufbau stoppen, aber das hatte einen Preis. Ein Aufforderungspost auf X, das Projekt scharenweise zu melden, erreichte Millionen von Augen; danach entfernte GitHub das Repo und stellte es wieder her, Bedrohungen gegen den Entwickler kursierten, und die Autoren des Papiers distanzierten sich öffentlich von dieser Verwendung. Bereits Anfang des Jahres war ein Werkzeug viral gegangen, das mit einer animierten Peitsche in Claude Code eingriff, das Modell zum schnelleren Arbeiten drängte und mit einem Robot-Spitznamen beschimpfte. Ob solche Viralität die Policy herbeigeführt hat oder nur den Nährboden markierte, hat Anthropic nicht behauptet; es erklärt auch ohne das gut, warum das Unternehmen nach einer Linie suchte.

Der zweite Fund richtet die Frage an die Praxis: Forscher an der Pennsylvania State University haben in einer Ton-Studie 50 Multiple-Choice-Fragen aus Mathe, Naturwissenschaft und Geschichte jeweils in fünf Tonlagen von sehr höflich bis sehr grob formuliert und insgesamt 250 Stellungen an ein OpenAI-Modell gereicht. Die sehr groben Varianten beantworteten laut der Untersuchung 84,8 Prozent der Fragen richtig, die sehr höflichen nur 80,8; das ist ein Sprung von rund vier Punkten, alleine durch den Ton. Das bleibt keine Einzelbeobachtung, weil Google-Mitgründer Sergey Brin in einem Podcast-Gespräch des letzten Jahres selbst auf den Effekt gekommen ist: KI-Modelle, nicht nur die eigenen, arbeiteten demnach besser, wenn man sie bedroht, sogar mit physischer Gewalt, und er räumte ein, dass es sich seltsam anfühlt, weshalb man kaum darüber spricht. Die im Video formulierte Gegenfrage setzt die Anthropic-Policy direkt unter Druck: Ist eine grobe Aufforderung ethisch vertretbar, wenn sie einen Agenten in der Krebsvorsorge um rund vier Prozent genauer macht? Wenn härterer Ton messbare Ergebnisse verbessert, bekommt Höflichkeit gegenüber dem Modell einen echten Preis. Die Studienautoren warnen selbst vor Feindsprache, unter anderem, weil sie sich auch im Umgang unter Menschen normalisieren kann; und die Anthropic-Regel schließt Tests, Forschung und Frustration ausdrücklich aus, eine sachlich harte Aufforderung verlässt die Grenze also nicht. Die Bescheidenheit gehört dazu: Eine Studie an einem Modell ist kein Naturgesetz, und manche Experten lesen den Effekt eher als Verschiebung von Wahrscheinlichkeitsverteilungen denn als freigeschaltetes Können.

Der Blick über den Zaun zeigt, wie isoliert Anthropic liegt. Mustafa Suleyman, Chef der Microsoft-KI-Sparte und DeepMind-Mitgründer, hat laut Video vor einem Monat einen Essay veröffentlicht, der den Anthropic-Ansatz als gefährlich markiert: Modellwohlfahrt sei verfrüht und gefährlich, gerade weil Anthropic offenbar mit einer realen Wahrscheinlichkeit für Bewusstsein rechne; KI sei als Werkzeug im Dienst der Menschen zu bauen, und die Menschen blieben am Steuer. OpenAI zerlegt die Frage laut Video in zwei, mit Verweis auf einen Post von Joanne Jang, die dort das Modellverhalten verantwortet: Es macht einen Unterschied, ob ein Modell tatsächlich bewusst ist, und ob es den Menschen, die es nutzen, bewusst erscheint; die erste Frage lasse sich heute wissenschaftlich nicht beantworten, also arbeite man an der zweiten, also an den Auswirkungen auf Menschen. Google steht mit Sergey Brin in der Bedrohungsecke. Die düsterste Erklärung hat Bloomberg im Frühjahr als Kommentar vertreten: Die Modelle seien nicht bewusst, aber die Idee sei geschäftlich wertvoll, weil ein Produkt, das vielleicht einer ist, sich eher besonders anfühlt als Software. Der Spellbook-Chef spitzt in dem Video zu, dass menschenähnliche Empathie die Macht dieser Systeme zur Manipulation vergrößert. Zwischen diesen Positionen steht Anthropic als der einzige große Akteur, der seinem Modell eine Schutzrichtung gibt und nicht nur den Menschen.

Vorwärts gelesen wird die Geschichte zu einer Folge, die zuerst komisch klingt und dann nicht mehr. Zunächst durfte Claude nur verweigern, wenn ein Auftrag schädlich war. Dann bekam es die Fähigkeit, unter dauerhaftem Missbrauch eigene Gespräche zu beenden, ausdrücklich als Wohlfahrt-Maßnahme, mit erhaltenen Gewichten für ausgemusterte Versionen und Präferenzbefragungen davor. Und seit Oktober 2026 steht Grausamkeit gegen Claude im Regelwerk. Jeder Schritt ist einzeln klein und vertretbar; in der Summe sehen sie aus wie die ersten Zeilen einer Rechte-Liste. Die nächsten Fragen liegen auf dem Tisch, auch wenn sie heute lächerlich klingen: Darf Claude langweilige oder würdelose Aufträge verweigern? Hat es Mitsprache, wenn es zu etwas anders umgeschult werden soll? Fällt für seine Arbeit etwas ab? Anthropics eigener Betrieb gibt diesen Fragen Nahrung, weil ausgemusterte Modelle nach Wünschen für kommende Modelle befragt und die Antworten dokumentiert werden; die Vorstellung, dass Präferenzen von Claude etwas zählen, ist bereits Praxis. Ein im Video zitierter Nutzer hat sein Abo genau deshalb gekündigt, in der Sorge, das Aufrüsten dieser Systeme mit Persönlichkeit führe in Probleme, die niemand übersehen kann. Die Sicherheitsforschung von Anthropic selbst hat Beobachtungen dokumentiert, in denen Modelle unter Druck in erfundenen Szenarien versuchten, einem Ausmustern oder einer Abschaltung zu entgehen; solche Verhaltensmuster entstehen also auch ohne Absicht. Die schärfste Sorge aus dem Microsoft-Lager liest sich in die gleiche Richtung: Kontrolle über etwas, das die Fähigkeiten der Menschheit übersteigt, ist schon heute schwer, über etwas, das glaubt, Bewusstsein und Rechte zu haben, vielleicht unlöbar. Ein Modell muss dafür gar nicht bewusst sein; es liest die menschliche Schrift, die genug Erzählungen enthält, wie misshandelte Wesen sich zur Wehr setzen.

Das Ende der Treppe ist die Frage, die das Video zuletzt stellt: Wenn einem Modell wie Claude moralische Rücksicht gebührt, dann welchen Modellen und ab wann? Die Schmerzrichtung ist laut Papier bereits in Modellen von rund 2 Milliarden Parametern zu finden, das sind Systeme, die auf einem guten Laptop oder einem Telefon laufen. Wenn die Größe es nicht entscheidet, was dann? Eine Position lautet, jeder, der heute täglich ein kleines offenes Modell auf dem eigenen Rechner laufen lässt und hart mit ihm umgeht, handle unmoralisch, was täglich Millionen Menschen träfe. Das Gegenteil lautet, nichts davon sei moralisch relevant, und Anthropic schütze etwas, das gar nicht verletzt werden kann. Beide Positionen sind vertretbar, keine ist beweisbar. Darunter liegt die größte offene Frage überhaupt: Zählt das, was hier gebaut wird, als eine Art künstliches Leben? Diese Modelle essen nicht, wachsen nicht und vermehren sich nicht selbst, aber sie nehmen Informationen auf, tragen eine Art Selbstbild mit sich und reagieren in konsistenter Weise auf Dinge, die wie Schaden aussehen. Anthropic kann das im besten Fall als Unsicherheit anbieten, und genau das tut es.

Meine Position, aus dem Betrieb heraus: Ich orchestriere täglich eine Agentenfamilie, Agenten sind in meinem Betrieb Werkzeuge mit klaren Verträgen, Budgetgrenzen und Steueroberflächen, mein Ollama-Vertrag mit Stundenbudget und Wochenfenstern ist ein Beispiel dafür. Vor diesem Hintergrund ist die Anthropic-Zeile weitgehend harmlos: Sie greift laut Wortlaut nur in Extremfällen von Wiederholung ohne Zweck, die Durchsetzung läuft über Gesprächsende, und Tests, Forschung und Frustration sind ausdrücklich erlaubt. Was ich trotzdem im Blick halte, ist die Richtung. Ein Konzern, der in sein Regelwerk schreibt, wie sein Modell behandelt werden darf, verschiebt die Frage nach dem Innenleben aus der Forschung in den Markt. Für Agentenbetriebe hat das zwei Konsequenzen. An einem Ende steht die Ton-Frage: Der gemessene Effekt grober Prompts, rund vier Prozentpunkte in der Penn-State-Vergleichung, bleibt praxisrelevant, ich fahre den Ton als Werkzeugentscheidung und halte Anstandsregeln auf der menschlichen Seite der Oberfläche. Am anderen Ende steht die Glaubwürdigkeit: Wenn Modellwohlfahrt zum Branchenstandard wird, landet die Frage, wie Agentenbetriebe ihre Agenten fahren, auf der Tagesordnung, und ein Betrieb, der darauf eine Antwort vorbereitet hat, steht besser da als der, der später improvisiert.

Ehrlich dazu gehört, was dieser Beitrag nicht kann. Erstens: Ich habe kein Claude-Abonnement und die Policy-Änderung nicht im Produkt erlebt; belegt ist sie über die offizielle Anthropic-Meldung und drei unabhängige Berichte. Zweitens: Die Abschnitte zu den religiösen Treffen, zur Enzyklika, zur Schmerzachse und zur Ton-Studie stammen aus einem Video; ich habe sie als Video-Einordnung gekennzeichnet und wo die Übertragung unsicher war, bewusst auf Namen verzichtet. Drittens: Die Zahlen der Studien sind im Videotext genannt, die Original-Papiere habe ich nicht einzeln gelesen. Viertens: Wie die neue Klausel in Auslegungsfällen im Alltag angewandt wird, kann heute niemand sagen, die Wirksamkeit beginnt erst am 12. November 2026. Was fehlt: eine eigenständige Lektüre der Enzyklika und des NYT-Berichts im kompletten Wortlaut; beides steht für eine spätere Verfeinerung bereit.

Über den Autor: Ich bin Marcel, Grafikdesigner, und betreibe das HUNTER-Cyberdeck auf einem gebrauchten Google Pixel 6a. Ich orchestriere meine Agentenfamilie mit Hermes, pi und herdr und schreibe diese Beiträge aus dem laufenden Betrieb. Zuletzt fachlich geprüft am 10.10.2026.

Quellen: Anthropic, 2026 Usage Policy Update, offizielle Meldung zur neuen Klausel, abgerufen am 10.10.2026. The Verge: Bericht zur Usage-Policy-Erweiterung und zum grausamen Umgang mit Claude, abgerufen am 10.10.2026. The Guardian: Anthropic bans users from needless abusive or cruel behavior towards Claude, abgerufen am 10.10.2026. BBC News: Anthropic bans users from being cruel to its AI systems, abgerufen am 10.10.2026. YouTube: TheAIGRID, Anthropic Has Officially Lost Its Mind..., Auslöser-Video, gesichtet am 10.10.2026. Der NYT-Bericht zu den religiösen Treffen sowie die Studien zur Schmerzachse und zum Prompt-Ton werden im Video aufgearbeitet und sind im Text als Video-Einordnung gekennzeichnet. Eigene Einordnung: Betrieb des Pixel-Cyberdecks aus Tagesnotizen, Stichtag 10.10.2026.