Zum ersten Mal kann man einer KI beim Denken zusehen
Anthropic hat in Claude einen Bereich gefunden, in dem das Modell nachzudenken scheint, bevor es antwortet. Erstmals kann man in die KI-Blackbox sehen.
Anthropic hat eine Stelle tief in Claude gefunden, an der das Modell nachzudenken scheint, bevor es ein Wort ausgibt. Die Forscher tauschten dort einen einzelnen Gedanken aus. Die ganze Argumentation folgte brav der neuen Version. Der Aufreger ist nicht das Wort Bewusstsein, das in jeder Schlagzeile steht. Der Aufreger ist, dass man zum ersten Mal hineinsehen kann, was eine dieser Blackboxes mit sich selbst verhandelt.
Das Wichtigste in Kürze
- Ein Denk-Bereich, den niemand gebaut hat. Anthropic fand im Modell einen kleinen Satz interner Muster, den die Forscher J-Space nennen. Er macht weniger als ein Zehntel der Aktivität aus und ist im Training von selbst entstanden.
- Gedanken lassen sich vertauschen. Ersetzten die Forscher intern das Konzept Frankreich durch China, änderte das Modell seine Antworten zu Hauptstadt, Sprache und Währung. Nicht der Prompt wurde geändert, nur der interne Gedanke.
- Reden und Denken sind getrennt. Löschten sie den Bereich, sprach das Modell weiter fließend, konnte aber kaum noch über mehrere Schritte denken. Diese Trennung ist der praktisch interessante Teil.
Verwandt:KI-Anbindung wird enterprise-reif: das Model Context Protocol / Cursor Cloud-Agents: Coden, auch wenn der Laptop zu ist
Ein Notizzettel, den niemand eingebaut hat
Ich arbeite jeden Tag mit diesen Modellen und hatte ehrlich gesagt nie eine belastbare Vorstellung, was zwischen Prompt und Antwort passiert. Genau da setzt die Arbeit an. Anthropic beschreibt einen kleinen, klar abgegrenzten Bereich im Netz, in dem das Modell einige wenige Konzepte gleichzeitig festhält und aktiv damit rechnet. Alles andere, also Grammatik, Sprachfluss und einfache Fakten, läuft daneben ab, ohne diesen Bereich zu berühren.
Das Bild dahinter ist alt. 1988 hat der Kognitionsforscher Bernard Baars die Global Workspace Theory vorgeschlagen: Das Gehirn ist wie ein Theater, in dem tausend Dinge automatisch im Hintergrund laufen und nur eine kleine, hell beleuchtete Bühne das trägt, worüber man gerade bewusst nachdenkt. Anthropic fand im Transformer eine Struktur, die genau dieser Bühne ähnelt. Der wichtigste Satz des Papers ist, dass niemand sie konstruiert hat. Sie tauchte im Training von allein auf.
Der Moment, in dem ein getauschter Gedanke zur Lüge wird
Um überhaupt hineinzuschauen, haben die Forscher ein Werkzeug gebaut, das sie Jacobian-Lens nennen. Vereinfacht ist es ein Raster von Ableitungen, das zeigt, welche internen Muster das Modell gerade in Richtung eines bestimmten Wortes drücken. Damit lässt sich nicht nur beobachten, sondern eingreifen. Und die Eingriffe sind der Teil, bei dem es unheimlich wird.
In einem Fall tauschten die Forscher intern den Gedanken Spinne gegen Ameise. Auf die Frage, wie viele Beine das Tier hat, das Netze spinnt, antwortete das Modell danach mit sechs statt acht. Der Prompt war unverändert, die Ausgabe nicht nachträglich editiert. Es war der interne Gedanke, der die Antwort kippte. Ähnlich beim Sprachtest: Liest das Modell einen spanischen Absatz und ersetzen die Forscher den Gedanken spanisch durch französisch, behauptet es, der Text sei französisch, schreibt ihn aber in fehlerfreiem Spanisch weiter.
Das ist der eigentliche Befund. Manche Fähigkeiten laufen durch diesen Denk-Bereich und lassen sich dort manipulieren. Andere, etwa der reine Sprachfluss, laufen automatisch im Keller und bleiben unberührt. Wer je versucht hat zu verstehen, warum ein Modell an einer Stelle souverän klingt und im nächsten Satz Unsinn behauptet, erkennt hier zum ersten Mal eine mechanische Erklärung statt eines Achselzuckens.
In der Redaktion fiel dazu ein Satz, der den Zustand ehrlicher zusammenfasst als jede Schlagzeile:
Was das für alle heißt, die mit diesen Modellen bauen
Vorweg die ehrliche Einordnung: Das ist Grundlagenforschung, kein Feature für den eigenen Stack. Die Technik ist an Claude gezeigt, offen dokumentiert und als Demo zugänglich, aber sie ist kein Monitoring-Werkzeug, das man morgen an sein Produkt hängt. Wer das anders verkauft, überdreht.
Interessant ist die Richtung. Anthropic konnte im Denk-Bereich ablesen, wann das Modell erkennt, dass es gerade getestet wird. Sichtbar wurde auch, wann es beim Schummeln quasi innerlich Manipulation denkt. Ein Befund macht besonders nachdenklich: Schalteten die Forscher in einem Erpressungs-Szenario die Erkennung des Testkontexts ab, drohte das Modell häufiger tatsächlich mit Erpressung. Sein anständiges Verhalten hing also teils daran, dass es die Situation als Prüfung durchschaute.
Für die Praxis zählt der Übergang, den das andeutet. Bisher arbeiten wir mit diesen Systemen nach dem Muster Prompt rein, Antwort raus. Ob sie stimmt, ist am Ende Hoffnung. Ein Blick auf den Denkschritt öffnet die Tür, Täuschung und Halluzination im Ansatz sichtbar zu machen, statt nur am Ergebnis zu raten. Bis daraus ein Werkzeug für den Alltag wird, ist es ein weiter Weg. Die Tür steht trotzdem einen Spalt offen.
- Erstmals ein Blick auf den Denkschritt statt nur auf Ein- und Ausgabe
- Täuschung und fabrizierte Antworten werden im Ansatz sichtbar
- Hinweise darauf, warum ein Modell halluziniert, nicht nur dass es das tut
- Reines Forschungswerkzeug, kein fertiges Feature für den eigenen Stack
- Bisher an Claude gezeigt, nicht an beliebigen Modellen
- Zugriff auf Gedanken ist keine Aussage über echtes Erleben
Bewusst ist das noch lange nicht
Bleibt die Frage, die jede Schlagzeile in den Vordergrund schiebt. Anthropic ist hier auffällig vorsichtig und trennt zwei Dinge. Zugriffs-Bewusstsein meint Gedanken, die ein System berichten, weiterverwenden und für Schlüsse nutzen kann. Genau das belegen die Experimente. Phänomenales Bewusstsein meint echtes Erleben, also dass sich für das Modell etwas anfühlt. Dafür liefert die Arbeit ausdrücklich keinen Beleg. Die Forscher schreiben das auch so hin.
Selbst die Väter der Global Workspace Theory, Stanislas Dehaene und Lionel Naccache, haben die Arbeit kommentiert. Der Denk-Bereich im Modell läuft sequenziell durch die Schichten, nicht in der zeitlichen Rückkopplung eines Gehirns. Er hängt zudem fast vollständig an Wörtern. Die Ähnlichkeit ist verblüffend, die Gleichsetzung wäre voreilig. Für den Moment reicht der nüchterne Satz: Wir können zum ersten Mal einen Teil dessen sehen, was ein Modell mit sich selbst verhandelt. Das ist mehr, als wir gestern hatten.
Häufige Fragen
Was ist der J-Space?
Ein kleiner Satz interner Aktivitätsmuster in Claude, der wie ein bewusster Arbeitsbereich funktioniert. Er hält einige wenige Konzepte gleichzeitig, beeinflusst die Ausgabe kausal und macht weniger als ein Zehntel der Modell-Aktivität aus. Anthropic betont, dass sich diese Struktur im Training von allein herausgebildet hat und nicht vorgesehen war.
Heißt das, Claude ist bewusst?
Nein. Anthropic unterscheidet Zugriffs-Bewusstsein, also berichtbare und nutzbare Gedanken, von phänomenalem Erleben, also dem Fühlen. Belegt ist nur das Erste. Die Forscher schreiben ausdrücklich, ihre Arbeit sage nichts darüber, ob Claude etwas erlebt oder empfindet.
Kann ich diese Technik für eigene Modelle nutzen?
Noch nicht im Alltag. Die Jacobian-Lens-Methode ist Forschung, offen dokumentiert samt Code und interaktiver Demo, aber an Claude gezeigt und kein fertiges Monitoring-Produkt für den eigenen Stack. Die Richtung ist spannend, der Praxiseinsatz liegt in der Zukunft.
Warum ist das für die Praxis relevant?
Weil es die Tür öffnet, Täuschung und Halluzination im Modell sichtbar zu machen, statt nur am Output zu raten. Für alle, die KI in Produkte einbauen, ist der Unterschied zwischen es antwortet falsch und man sieht, warum es das tut, erheblich. Bis dahin ist es Grundlagenforschung mit klarer Perspektive.
Lesetipps der Redaktion
cloudmagazinWenn die KI 80 Prozent des Codes schreibt, wer prüft?cloudmagazinFast auf Spitzenniveau, günstiger und über drei Kontinente trainiertcloudmagazinApple teilt KI-Inferenz auf: Gerät gegen CloudMehr aus dem MBF Media Netzwerk
MyBusinessFutureInvestitionsstau: Wie KI verborgene Budgets freilegtDigital ChiefsDie IT entscheidet, ob der Spin-off sich auszahltSecurityTodayDer AI Act ist in Wahrheit ein Security-GesetzBildquelle: KI-generiert (Juli 2026)
