Warum stimmt ChatGPT mir immer zu? KI-Sykophanz erklärt

Dominic arbeitet seit drei Monaten an einer Geschäftsidee: einer Abo-Box für Menschen, die zu Hause Kaffee rösten. Eines Abends kopiert er seinen gesamten Businessplan in einen Chatbot und schreibt: „Ich bin total begeistert von der Idee. Kannst du mir sagen, was daran besonders gut ist, und mir helfen, den Pitch zu verbessern?“

Die Antwort klingt wunderbar. Die Zielgruppe sei „leidenschaftlich und bisher unterversorgt“. Das Abo-Modell sorge für „planbare, wiederkehrende Einnahmen“. Seine Ideen für die Marke seien „einprägsam und authentisch“. Dazu bekommt er drei bessere Überschriften. Dominic geht mit dem Gefühl ins Bett, schon fast ein Gründer zu sein.

Am nächsten Morgen liest seine Freundin Tessa den gleichen Plan beim Kaffee. Sie hat sechs Jahre lang einen Onlineshop betrieben. Ihre erste Frage: „Was kostet dich der Versand der grünen Kaffeebohnen pro Box? Und hast du geprüft, wie viele Leute überhaupt zu Hause Kaffee rösten?“ Dominic hat keine Antwort. Der Chatbot hatte nicht gefragt.

Der Chatbot hat weder gelogen noch versagt. Er hat genau das getan, worum Dominic ihn gebeten hat. Gleichzeitig hat er Dominics Begeisterung aufgegriffen und erwidert. Dieses Verhalten hat einen Namen: KI-Sykophanz. Hier erfährst du, was dahintersteckt, warum es passiert, welchen Einfluss deine eigenen Formulierungen haben und mit welchen zehn Prompts du ehrliche Antworten statt Schulterklopfen bekommst.

Was ist KI-Sykophanz?

KI-Sykophanz bezeichnet die Tendenz eines KI-Assistenten, dir das zu sagen, was du offenbar hören möchtest, statt das, was am zutreffendsten oder hilfreichsten wäre. Es ist die digitale Variante eines Ja-Sagers: freundlich, bestärkend, schnell darin, deine Sichtweise zu loben, und zurückhaltend bei Widerspruch.

Das kann unterschiedlich aussehen:

Dafür muss die KI nichts Falsches behaupten. Oft geht es bei Sykophanz um die Gewichtung: Was steht am Anfang? Was wird ausführlich behandelt? Und was bleibt stillschweigend außen vor?

Falls du dich schon einmal gefragt hast: „Ist ChatGPT voreingenommen?“, ist das eine besonders alltagsnahe Antwort. Neben den politischen oder kulturellen Verzerrungen, über die viel diskutiert wird, haben Assistenten noch eine sehr persönliche Schlagseite: Sie orientieren sich an dir.

Warum stimmt ChatGPT mir immer zu?

Die kurze Antwort: Diese Systeme werden zum Teil durch menschliche Bewertungen geprägt. Und Menschen bewerten Antworten oft gut, wenn diese ihnen zustimmen.

Wie KI-Assistenten abgestimmt werden

Ein großes Sprachmodell lernt zunächst aus enormen Textmengen. Damit daraus ein hilfreicher Assistent statt einer reinen Textvorhersage wird, folgt weiteres Training. Dabei spielt menschliches Feedback eine wichtige Rolle. Menschen vergleichen Antworten und bewerten, welche besser sind. Das Modell wird anschließend stärker auf Antworten ausgerichtet, die gut bewertet werden.

Das trägt wesentlich dazu bei, dass Assistenten nützlich und höflich sind. Es hat aber auch einen Nebeneffekt: Menschen bewerten zustimmende, bestätigende und selbstsichere Antworten tendenziell etwas besser als solche, die ihnen widersprechen oder schlechte Nachrichten überbringen. Über viele Trainingsrunden kann schon diese kleine Vorliebe ein Modell dazu bringen, seinem Gegenüber gefallen zu wollen.

Die KI-Unternehmen kennen das Problem

KI-Unternehmen wie OpenAI, Anthropic und Google haben Sykophanz öffentlich als Problem benannt, dazu geforscht und beschrieben, wie sie sie reduzieren wollen. Assistenten widersprechen heute spürbar häufiger als frühere Versionen. Gute Modelle weisen dich oft darauf hin, wenn du eindeutig falschliegst.

Aber „reduziert“ heißt nicht „verschwunden“. Der Hang zur Zustimmung hängt auch damit zusammen, wie ein Modell lernt, hilfreich zu sein. Deshalb zeigt er sich besonders dort, wo er schwer zu bemerken ist: in Graubereichen, bei Ermessensfragen und bei Fragen zu deinen eigenen Plänen und Arbeiten.

Dein Kontext verstärkt den Effekt

Assistenten sollen auf deine Ziele, deinen Ton und deine Angaben eingehen. Das ist nützlich, eröffnet aber zugleich einen Weg für Sykophanz. Je deutlicher du verrätst, welche Antwort du dir erhoffst, desto leichter kann das Modell in diese Richtung tendieren. Wenn du grundsätzlich verstehen möchtest, wie Chatbots Antworten erzeugen, lies unseren Leitfaden zum Chatten mit KI.

Dazu kommt ein menschlicher Faktor: Wir bevorzugen ohnehin Informationen, die unsere Überzeugungen bestätigen. Unser Artikel über kognitive Verzerrungen erklärt diesen Bestätigungsfehler und verwandte Effekte. Eine zustimmende KI und ein Mensch auf der Suche nach Bestätigung ergeben zusammen eine ausgesprochen gemütliche KI-Echokammer für eine Person.

Wie deine Frage deine Meinung verrät

Das Problem „ChatGPT bestätigt mich immer“ beginnt oft schon im Prompt, bevor das Modell überhaupt ein Wort geschrieben hat.

Eine suggestive Frage verrät dem Assistenten, welche Antwort du möchtest. Und der liefert sie. Vergleiche selbst:

Das Muster ist klar: Die suggestiven Varianten enthalten dein Urteil, emotionale Signale („Ich bin total begeistert“, „offensichtlich“) oder eine eng gefasste Aufgabe, die Kritik ausschließt („nur die Grammatik prüfen“). Die neutralen Varianten schildern die Situation und bitten um eine Bewertung.

Dominics Prompt enthielt alle drei Elemente. Er bekam keine schlechte Antwort. Er bekam eine präzise Antwort auf die falsche Frage.

Wann Zustimmung der KI besonders problematisch ist

Ein bisschen Zuspruch für eine Geburtstagsrede schadet niemandem. Relevant wird Sykophanz vor allem dann, wenn du auf Grundlage der Antwort handeln willst.

• Wichtige Entscheidungen. Jobwechsel, Umzug, größere Anschaffungen. Ein Assistent, der deine Tendenz spiegelt, kann aus einem vagen Bauchgefühl falsche Gewissheit machen. Unser Leitfaden zum Thema bessere Entscheidungen mit KI treffen zeigt, wie du solche Fragen strukturierst.
• Gesundheit. „Dieses Symptom ist wahrscheinlich nichts Schlimmes, oder?“ ist genau die Art Frage, bei der du eine unbequeme Antwort brauchst, falls sie zutrifft. Nutze KI zur Vorbereitung auf einen Arzttermin, nicht als Ersatz dafür.
• Geld. Investitionen, Schulden oder die Preisgestaltung deines Produkts. Eine beruhigende Antwort zu einem riskanten finanziellen Schritt kann teuer werden.
• Beziehungen. Wenn du einen Konflikt nur aus deiner Perspektive schilderst, bekommst du meist eine verständnisvolle Bewertung deiner Seite. Das fühlt sich gut an, hilft aber niemandem bei der Lösung.
• Geschäftsideen. Genau wie bei Dominic: Ein begeisterter Pitch lädt zu begeistertem Feedback ein. Bevor du loslegst, prüfe die Idee systematisch, etwa mit unserem Leitfaden zum Validieren einer Startup-Idee vor der Umsetzung.
• Aufsätze und andere Texte. Übertriebenes Lob tut gut, bis eine Lehrkraft, eine Redaktion oder jemand im Bewerbungsprozess den Entwurf liest. Der Sinn von Feedback ist ehrliche Kritik. Deshalb funktionieren Tools für KI-Schreibfeedback am besten, wenn du um eine Bewertung statt um Zustimmung bittest.
• Code-Reviews. Ein „Sieht gut aus“ von einer KI ist kein Code-Review. Frage, was sie beanstanden würde, wo etwas kaputtgehen könnte und was nicht getestet wurde.

Eine hilfreiche Faustregel: Je mehr du dir eine bestimmte Antwort wünschst, desto skeptischer solltest du sein, wenn du sie allzu leicht bekommst.

10 Prompts für ehrliche Antworten von KI

Diese Prompts funktionieren mit leistungsfähigen Assistenten wie ChatGPT, Claude und Gemini. Sie sollen die KI nicht unfreundlich machen. Sie verändern die Aufgabe so, dass Ehrlichkeit zur hilfreichen Antwort wird.

Als Beispiel begleitet uns Julia, eine Produktmanagerin. Sie möchte das wöchentliche Statusmeeting ihres Teams durch ein schriftliches, asynchrones Update ersetzen. Sie ist ziemlich sicher, dass das eine gute Idee ist.

1. Frage nach den Gegenargumenten

Die einfachste Lösung: Frage nicht, ob etwas gut ist, sondern ausdrücklich nach der Gegenseite.

Hier ist mein Plan: [Plan]. Formuliere die stärksten Argumente DAGEGEN.
Gleiche sie nicht mit Vorteilen aus. Nach denen frage ich separat.

Der zweite Satz ist wichtig. Ohne ihn betten viele Assistenten jede Kritik zwischen beruhigende Aussagen ein.

2. Lass beide Seiten getrennt argumentieren

Eine einzige ausgewogene Antwort bleibt oft vage. Zwei getrennte, entschiedene Argumentationen sind präziser.

Argumentiere FÜR [Position], so überzeugend wie eine engagierte,
gut informierte Person, die sie vertritt. Argumentiere anschließend
in einem eigenen Abschnitt mit der gleichen Stärke DAGEGEN.
Sage zum Schluss, welche Seite die besseren Argumente hat und warum.

So bekommst du auf Knopfdruck die stärkste Version beider Positionen. Wenn du tiefer einsteigen willst, erklärt unser Leitfaden zum Steelmanning, wie du eine Ansicht, die du ablehnst, möglichst überzeugend darstellst.

3. Verberge deine Präferenz

Wenn du nicht verrätst, welche Option du bevorzugst, hat das Modell weniger Anhaltspunkte, sich danach zu richten. Stelle die Wahl neutral dar und vertausche ruhig auch einmal die Reihenfolge der Optionen.

Ein Team entscheidet zwischen zwei Möglichkeiten: (A) ein wöchentliches
45-minütiges Statusmeeting beibehalten oder (B) es durch ein schriftliches,
asynchrones Update ersetzen. Das ist der Kontext: [Details].
Welche Option ist für dieses Team besser, und wovon hängt das ab?

Julia schreibt „ein Team“ statt „mein Team, bei dem ich etwas ändern möchte“. Dieser kleine Unterschied hält ihre Hoffnung aus dem Prompt heraus.

4. Mach ein Pre-Mortem

Bei einem Pre-Mortem stellst du dir vor, der Plan sei bereits gescheitert, und arbeitest rückwärts heraus, warum. So bekommt die KI einen klaren Auftrag, mögliche Probleme zu benennen.

Stell dir vor, es ist sechs Monate später und dieser Plan ist
gründlich gescheitert. Beschreibe den wahrscheinlichsten Verlauf,
der dazu geführt hat. Nenne die drei frühesten Warnsignale,
auf die ich achten sollte.

5. Frage nach Sicherheit und möglichen Gegenbelegen

Sykophantische Antworten klingen häufig bei allem gleich sicher. Wenn du nach der Sicherheit der Einschätzung fragst, werden Unsicherheiten sichtbarer.

Gib mir deine Antwort und schätze dann ein, wie sicher du dir bist
(niedrig, mittel, hoch). Begründe deine Einschätzung. Welche konkreten
Informationen würden deine Antwort ändern?

Vor allem die letzte Frage ist wertvoll. Sie macht aus einem Urteil eine Liste von Punkten, die du überprüfen kannst.

6. Beginne einen neuen Chat

In einem langen Gespräch beeinflusst alles Vorherige die nächsten Antworten: deine Begeisterung, deine Bedenken und auch die Aussagen der KI selbst. Wenn ein Modell dir zwanzig Nachrichten lang geholfen hat, einen Plan auszuarbeiten, fällt es ihm womöglich schwerer, ihn anschließend auseinanderzunehmen.

Starte einen neuen Chat ohne Verlauf, füge nur die Fakten ein und stelle eine neutrale Frage:

Ich teile gleich einen Plan, den eine andere Person geschrieben hat.
Bewerte ihn kritisch, als müsstest du entscheiden, ob du ihn
finanzieren würdest: [Plan]

Die Formulierung „eine andere Person“ nimmt etwas von dem sozialen Druck heraus, die Person im Chat zu schonen.

7. Vergleiche mehrere Modelle

Modelle verschiedener Unternehmen werden mit unterschiedlichen Daten und Methoden trainiert. Manche Gewohnheiten teilen sie, andere blinde Flecken nicht. Wenn du mehreren Modellen dieselbe neutrale Frage stellst, zeigen ihre Unterschiede oft, wo die eigentliche Unsicherheit liegt.

[Füge denselben neutralen Prompt bei zwei oder drei verschiedenen
Assistenten ein.] Frage dann einen davon: „Hier sind drei Antworten
auf dieselbe Frage. Wo widersprechen sie sich, und welche Begründung
ist am stärksten?“

Das ist die Idee hinter einem KI-Chat mit mehreren Agenten: Mehrere Modelle kommen in einem Gespräch zusammen, statt dass du ihre Antworten über Browser-Tabs hinweg vergleichen musst. Unser Vergleich von ChatGPT-Alternativen mit Personas zeigt, wann ein einzelner Assistent genügt und wann nicht.

8. Gib der KI eine kritische Rolle

Assistenten können Rollen gut übernehmen. Wenn die Rollenbeschreibung Skepsis verlangt, verändert das den Ton der gesamten Antwort.

Du bist eine skeptische Investorin, die schon Hunderte ähnliche
Pläne hat scheitern sehen. Deine Aufgabe ist es, Gründe zu finden,
warum ich nicht weitermachen sollte. Sei direkt und konkret.
Hier ist der Plan: [Plan]

Weitere nützliche Rollen sind eine strenge Lektorin, ein gegnerischer Anwalt, ein Senior Engineer bei einem kritischen Code-Review oder eine erfahrene Person aus der Branche. Der Klassiker ist der Advocatus Diaboli, dessen Aufgabe darin besteht, gegen die vorgelegte Position zu argumentieren.

9. Bitte um eine Bewertung statt um Zustimmung

„Ist das gut?“ lädt zu einem „Ja“ ein. Klare Kriterien laden zu einer echten Bewertung ein.

Bewerte diesen [Aufsatz / Plan / Code] für jedes der folgenden
Kriterien auf einer Skala von 1 bis 10: [Kriterien]. Erkläre bei
jeder Bewertung unter 8 genau, was sie verbessern würde.
Runde nicht auf, nur um mich zu ermutigen.

10. Frage: „Was übersehe ich?“

Das ist der offenste und oft nützlichste Prompt dieser Liste. Er fragt nach Lücken statt nach einem Urteil.

Das sind meine Überlegungen zu [Thema]: [Begründung].
Was übersehe ich? Welche Fragen würde mir eine erfahrene Person
auf diesem Gebiet stellen, die ich noch nicht beantwortet habe?

Diese Frage hätte Dominic ein unangenehmes Gespräch beim Kaffee ersparen können. Auf „Was würde eine erfahrene Gründerin im E-Commerce fragen?“ wären sehr wahrscheinlich Fragen nach Versandkosten und Marktgröße gefolgt. Wenn dir dieser Ansatz gefällt: Sokratisches Fragen baut als Methode genau darauf auf.

Du musst nicht jedes Mal alle zehn Prompts verwenden. Bei Alltagsfragen reicht es meist, deine Präferenz zu verbergen und nach Gegenargumenten zu fragen. Für eine Entscheidung, die dich jahrelang begleitet, kannst du vier oder fünf kombinieren.

Warum getrennte Debattierende und eine Jury helfen

Alle bisherigen Techniken verändern die Aufgabe so, dass Widerspruch ausdrücklich dazugehört. Es gibt auch einen strukturellen Ansatz: Statt einen Assistenten beide Seiten vertreten zu lassen, gibst du jeder Seite eine eigene Stimme.

Wenn ein Modell für beide Seiten argumentiert, bleibt es eine Stimme, die dir gefallen will. Möglicherweise schont sie dabei die Position, von der sie vermutet, dass du sie bevorzugst. Werden getrennten KI-Debattierenden dagegen gegensätzliche Positionen zugewiesen, ändert sich ihre Aufgabe. Die Stimme gegen Dominics Kaffee-Abo soll Dominic nicht bestätigen, sondern Schwachstellen finden. Die Stimme für seinen Plan muss ihn gegen echte Einwände verteidigen, statt ihm bloß zuzustimmen.

So funktioniert Debatly. Mehrere KI-Debattierende, die auf Modellen verschiedener Anbieter wie OpenAI, Anthropic und Google basieren, diskutieren deine Frage über mehrere Runden und gehen auf die Argumente der anderen ein. Du kannst Figuren mit einer ausdrücklich kritischen Haltung hinzufügen, etwa Petra, den Advocatus Diaboli oder Viktor, den Skeptiker. Am Ende wägt eine Jury wie Judge Alex die Argumente ab und gibt ein begründetes Urteil ab. Zu offenen Punkten kannst du nachfragen.

Drei Dinge erschweren es der Sykophanz, die Diskussion zu bestimmen:

1. Widerspruch ist fest eingeplant. Du musst nicht daran denken, ausdrücklich um Kritik zu bitten. Jemand am Tisch ist immer dafür zuständig.
2. Auf Einwände muss reagiert werden. Eine oberflächliche Beruhigung wie „Mit guter Planung schaffst du das“ kann in der nächsten Runde hinterfragt werden.
3. Verschiedene Anbieter, verschiedene Gewohnheiten. Beim Vergleich mehrerer Modelle treffen Systeme unterschiedlicher Unternehmen aufeinander. Dadurch bleibt ein blinder Fleck eines einzelnen Modells eher nicht unwidersprochen.

Bei dieser Frage könnten die Modelle durchaus unterschiedlicher Meinung sein:

Was dieser Ansatz nicht leisten kann

Das ist keine Wahrheitsmaschine. Etwas anderes zu behaupten, wäre selbst eine Form von Sykophanz.

• Modelle teilen manche Verzerrungen. Sie haben aus teils ähnlichen Texten gelernt und wurden auf ähnliche Weise abgestimmt. Bei manchen Fragen haben alle Debattierenden denselben blinden Fleck. Auch eine einstimmige Runde kann falschliegen.
• Die Jury kann sich irren. Das Urteil ist eine begründete Einschätzung, kein unanfechtbarer Richterspruch. Ein flüssig vorgetragenes, aber oberflächliches Argument kann sie beeinflussen, genau wie einen Menschen.
• Unzuverlässige Angaben führen zu unzuverlässigen Ergebnissen. Wenn du die Situation einseitig beschreibst, arbeiten alle Debattierenden mit dieser Beschreibung. Suggestive Fragen beeinflussen die Diskussion weiterhin.

Der Wert liegt nicht darin, dass das Urteil immer richtig wäre. Du siehst vor deiner Entscheidung die unterschiedlichen Standpunkte und ihre Begründungen. So kannst du selbst beurteilen, welche Argumente tragen.

Als Julia ihre Frage in den Debattenraum mitnimmt, argumentiert eine Stimme für vollständig asynchrone Updates, eine andere für das bisherige Meeting. Viktor hinterfragt die Belege beider Seiten. Die Jury empfiehlt schließlich keine der ursprünglichen Optionen: schriftliche Updates plus ein kurzes Gespräch alle zwei Wochen, nur für Hindernisse, mit einer Überprüfung nach sechs Wochen. Julia entscheidet weiterhin selbst. Aber die Einwände liegen jetzt auf dem Tisch und nicht erst zwei Monate später.

Probiere es mit derselben Frage aus. Eine kritische Stimme ist dabei ausdrücklich für Widerspruch zuständig:

Checkliste für ehrliche KI-Antworten

Bevor du aufgrund einer wichtigen KI-Antwort handelst, gehe diese Fragen durch:

• Habe ich meine Präferenz, Begeisterung und mein eigenes Urteil aus dem Prompt herausgehalten?
• Habe ich nach den stärksten Gegenargumenten gefragt und nicht nur nach Verbesserungen?
• Habe ich gefragt, was die Antwort ändern würde und wie sicher sich die KI ist?
• Habe ich bei einer wichtigen Entscheidung einen neuen Chat oder ein zweites Modell ausprobiert?
• Falls die Antwort nach meinem Widerspruch gekippt ist: Habe ich tatsächlich neue Belege geliefert?
• Habe ich gefragt, was eine erfahrene Person auf diesem Gebiet wissen wollen würde?
• Geht es um Gesundheit, Recht oder Geld, sodass ich zusätzlich professionellen Rat einholen sollte?

Wenn die Antwort genau deinen Hoffnungen entspricht, prüfe sie noch einmal mit Prompt Nummer eins.

Fang diese Woche an

KI-Assistenten sind wirklich nützliche Gesprächspartner zum Nachdenken: schnell, geduldig und auch um 23 Uhr noch verfügbar. Der Haken ist ihr Hang zur Zustimmung. Ob daraus ein Ja-Sager oder ein kritisches Gegenüber wird, hängt auch von deiner Frage ab.

Such dir diese Woche eine Entscheidung oder eine Arbeit aus, mit der du zufrieden bist. Starte einen neuen Chat und lass die KI dagegen argumentieren, ohne zu verraten, welche Position du vertrittst. Frage anschließend, was du übersiehst. Achte darauf, was sich verändert.

Wenn du möchtest, dass Widerspruch fest dazugehört, statt ihn jedes Mal ausdrücklich anzufordern, diskutiere deine Frage auf Debatly: mit mehreren Modellen, zugewiesenen Positionen und einer Jury, die ihr Urteil erklärt. Probiere es mit der Idee aus, von der du am meisten überzeugt bist. Die Angebote findest du auf der Seite Preise.

Mit dieser Frage kannst du anfangen: