Start/Blog/DATENQUALITÄT
DATENQUALITÄT

Dieselbe Frage, sechs Durchläufe, sechs verschiedene Ergebnisse

Zwölf identische Fragen, je sechsmal unabhängig gestellt, gleiches Modell, gleicher Wortlaut. Nur bei zweien kam die Marke jedes Mal vor. Das hat Folgen für alles, was Sie über KI-Sichtbarkeit berichten.

Felix Zeh·10. August 2026·6 Min. Lesezeit·KI-unterstützt erstellt
6 DURCHLÄUFE JE FRAGE2/6Q13/6Q24/6Q36/6Q41/6Q51/6Q65/6Q76/6Q84/6Q90/6Q105/6Q110/6Q12
Das nehmen Sie aus diesem Artikel mit
  • Wie stark Markennennungen zwischen identischen Durchläufen schwanken
  • Warum das an der Gesprächsmechanik liegt und nicht an einem Fehler
  • Wie viele Durchläufe Sie mindestens brauchen, damit eine Zahl belastbar ist
  • Wie Sie Schwankung von echter Veränderung unterscheiden
2/12Fragen mit Nennung in jedem Durchlauf
6/12Fragen mit schwankendem Ergebnis
4/12Fragen praktisch ohne Nennung

Wenn Sie ein Ergebnis aus einem einzigen ChatGPT-Test an die Geschäftsführung berichten, berichten Sie unter Umständen Zufall. Diese Zahlen zeigen, wie viel Zufall drinsteckt.

Wie stark schwankt es tatsächlich?

Wir haben zwölf Einstiegsfragen je sechsmal unabhängig durchgespielt. Drei Durchläufe aus einer Erhebung, drei aus einer zweiten drei Wochen später, beide mit demselben Modell und geprüft wortgleichem Fragetext.

Das Ergebnis sortiert sich in drei Gruppen:

Bei der Hälfte aller Fragen hängt die Nennung also sichtbar davon ab, wie sich das jeweilige Gespräch entwickelt hat. Nicht davon, ob die Marke zum Thema passt.

Warum führt dieselbe Frage zu verschiedenen Gesprächen?

Das liegt an der Art, wie diese Gespräche entstehen. Nach der Einstiegsfrage ist nichts mehr vorgegeben. Jede Folgefrage wird aus der jeweils vorangegangenen Antwort abgeleitet.

Nennt die KI in einem Durchlauf beiläufig einen bestimmten Wettbewerber, hakt die simulierte Person dort nach. Das Gespräch dreht sich ab diesem Punkt um diesen Anbieter. In einem zweiten Durchlauf mit exakt derselben Startfrage fällt vielleicht ein anderer Name, und das Gespräch nimmt eine völlig andere Richtung.

Eine einzige Formulierung in der ersten Antwort kann so den gesamten weiteren Verlauf bestimmen. Das ist kein Fehler im Modell, sondern normales Verhalten eines Systems, das bei jedem Durchlauf neu formuliert.

Zwei Fragen im direkten Vergleich

Ein Beispiel aus dem stabilen Bereich: Die Frage nach den Kosten einer kompletten Ausstattung für einen großen Streuobstgarten führte in allen sechs Durchläufen zur Markennennung. Hier ist die Verbindung zwischen Thema und Marke so fest, dass der Gesprächsverlauf keine Rolle mehr spielt.

Das Gegenstück: Die Frage nach sinnvollen Vertragskonditionen beim Kauf mehrerer Kettensägen für einen Betrieb führte in keinem einzigen Durchlauf zur Markennennung. Auch nicht in Ansätzen. Dieselbe Kategorie, dieselbe Marke, gegenteiliges Ergebnis.

Der Unterschied ist übrigens aufschlussreich: Die erste Frage ist eine Produktfrage, die zweite eine kaufmännische. Zu Vertragskonditionen findet die KI beim Hersteller offenbar nichts, das sie zitieren könnte. Das passt zum Muster aus der Kaufphasen-Analyse.

Was heißt das für Ihre Zahlen?

Vor allem eines: Ein einzelner Test ist keine Grundlage für eine Entscheidung. Weder für Erleichterung noch für Alarm.

Und es hat eine unbequemere Folge für die Berichterstattung. Wenn die Schwankung zwischen Durchläufen groß ist, dann kann eine Veränderung von 47 auf 43 Prozent zwischen zwei Messzeitpunkten innerhalb dieser Schwankung liegen. Ob sie das tut, wissen wir aus diesen Daten nicht. Um es zu wissen, müsste man dieselbe Erhebung am selben Tag mehrfach vollständig wiederholen und die Streuung berechnen.

Solange das nicht vorliegt, gehört zu jeder Veränderungsangabe der Hinweis, dass sie im Bereich der normalen Schwankung liegen kann. Wir halten das in unseren eigenen Berichten so, auch wenn es die Aussagen weniger griffig macht.

So gehen Sie mit der Schwankung um

  1. Mindestens drei Durchläufe je Frage, besser vier

    Jeder in einem frischen Chat ohne Verlauf. Bei drei Durchläufen sehen Sie schon, ob eine Nennung stabil ist; bei vieren wird der Wert je Frage merklich ruhiger.

  2. Je Frage auswerten, nicht nur als Gesamtdurchschnitt

    Der Gesamtwert verdeckt das Muster. Erst die Aufschlüsselung zeigt, welche Fragen zuverlässig funktionieren und welche gar nicht. Das ist die Information, mit der Sie arbeiten können.

  3. In drei Stufen einteilen statt Prozentwerte zu verfeinern

    Stabil, schwankend, praktisch nie. Diese Einteilung ist robuster gegenüber Zufall als eine Nachkommastelle und für Entscheidungen völlig ausreichend.

  4. Bei den stabilen Nullen ansetzen

    Fragen, bei denen Sie in keinem Durchlauf vorkommen, sind die klarsten Lücken. Dort ist auch das Ergebnis am eindeutigsten interpretierbar: Da fehlt schlicht Inhalt.

  5. Veränderungen erst ab deutlichem Abstand berichten

    Wenn die Schwankung zwischen Durchläufen nicht bestimmt ist, sollten kleine Unterschiede zwischen zwei Messzeitpunkten nicht als Entwicklung dargestellt werden. Lieber ehrlich unscharf als scheingenau.

Häufige Fragen

Heißt das, KI-Sichtbarkeit lässt sich gar nicht sinnvoll messen?

Nein. Es heißt, dass sie sich nicht mit einer einzelnen Abfrage messen lässt. Mit mehreren Durchläufen je Frage und einer Auswertung auf Frageebene bekommen Sie ein belastbares Bild. Genauso arbeitet jede andere Stichprobenerhebung auch.

Warum schwankt es bei manchen Fragen gar nicht?

Weil dort die Verbindung zwischen Thema und Marke in den Quellen so eindeutig ist, dass jeder Gesprächsverlauf darauf zuläuft. Das ist der Zustand, den man anstrebt: nicht möglichst oft genannt zu werden, sondern unabhängig vom Verlauf.

Wird die Schwankung mit besseren Modellen kleiner?

Dazu haben wir keine belastbaren Daten. Zwischen den beiden gemessenen Modellgenerationen hat sich das Niveau der Präsenz deutlich verschoben, über die Schwankung innerhalb desselben Modells sagt das nichts. Das wäre eine eigene Messung wert.

Reicht es, immer denselben Chat für die Tests zu verwenden?

Nein, das verfälscht das Ergebnis. Innerhalb eines Chats erinnert sich das System an vorherige Fragen und Antworten. Sie messen dann Ihren eigenen Gesprächsverlauf mit statt des Normalfalls. Jeder Durchlauf braucht einen frischen Chat.

So wurde gemessen

12 Einstiegsfragen, am 26.07. und 03.08.2026 mit geprüft wortgleichem Text und demselben Modell (gpt-5.6-terra) je dreimal unabhängig durchlaufen, insgesamt sechs Durchläufe je Frage. Einteilung: stabil = 6 von 6, schwankend = 1 bis 5 von 6, praktisch nie = 0 oder 1 von 6.

Transparenzhinweis · KI-generierter Inhalt

Hinweis zu diesem Beitrag: Recherche, Auswertung und Text wurden mit Unterstützung von KI-Systemen erstellt (Ex Tenebris Agenten-Team) und von Felix Zeh redaktionell geprüft. Alle genannten Zahlen stammen aus einer echten LUX-/GEO-Analyse; die analysierte Marke ist zum Schutz der Kundenbeziehung anonymisiert.

FZ
Felix Zeh
Gründer Ex Tenebris · Stuttgart

Arbeitet seit über zehn Jahren an der Schnittstelle von Marketing, Daten und Analytik und misst mit LUX, wie Marken in den Antworten von ChatGPT, Claude, Gemini und Perplexity vorkommen. Fragen oder Widerspruch zu diesem Artikel? kontakt@extenebris.de

Kontakt

Wie sichtbar ist Ihre Marke heute in der KI-Antwort?

Die Methodik hinter diesem Artikel ist dieselbe, die wir für jede Standortbestimmung einsetzen — auf Ihre Kategorie, Ihre Wettbewerber, Ihre Bedarfsgruppen zugeschnitten.