Zum Inhalt springen
ARO

Methodik

Wie gemessen wird — und was die Zahlen nicht bedeuten.

Die vollständige Messmethodik: isolierte Prompts ohne Markennennung, wiederholte Durchläufe, mehrere Modelle, beobachtete statt angenommener Wettbewerber — und die ausdrücklichen Grenzen der Aussagekraft.

Warum diese Seite so ausführlich ist

In einem Feld ohne etablierte Standards ist die Methodik der einzige Weg, ein Ergebnis überprüfbar zu machen. Wer Zahlen liefert, ohne offenzulegen, wie sie entstanden sind, liefert keine Messung, sondern eine Behauptung. Diese Seite ist bewusst so geschrieben, dass Sie unser Vorgehen nachbauen und überprüfen könnten.

Grundprinzipien

Fünf Regeln, die jede Messung erfüllen muss.

1 — Isolierte Prompts
Jeder Durchlauf startet in einem neuen, leeren Kontext. Kein vorheriger Gesprächsverlauf, keine Nachfrage, kein Nachschärfen. Was in einem Chat vorher stand, beeinflusst jede weitere Antwort — auch wenn es thematisch unbeteiligt wirkt. Ein Gesprächsverlauf misst nicht den Markt, sondern die eigene Gesprächsführung.
2 — Kein Priming mit der eigenen Marke
Der Name des gemessenen Unternehmens kommt in keinem Prompt vor. Ein Modell, das einen Namen gerade gelesen hat, verwendet ihn mit deutlich erhöhter Wahrscheinlichkeit wieder. Ein so erzeugtes Ergebnis ist ein Artefakt der Fragestellung, kein Messwert. Aus demselben Grund fragen wir die Wettbewerberliste eines Kunden erst nach der Erstmessung ab.
3 — Mehrere Durchläufe je Prompt
Derselbe Prompt wird mehrfach ausgeführt. Erst über die Wiederholungen wird sichtbar, welche Nennungen stabil und welche zufällig sind. Ein Anbieter in einem von fünf Durchläufen steht anders da als einer in fünf von fünf — im Screenshot sieht beides gleich aus. Die Run-Anzahl bleibt über alle Messzeitpunkte konstant.
4 — Mehrere Modelle, getrennt ausgewiesen
ChatGPT (OpenAI), Gemini (Google), Claude (Anthropic) beantworten identische Fragen regelmäßig mit unterschiedlichen Anbieterlisten, unter anderem weil sie unterschiedlich stark auf Websuche zurückgreifen. Wir bilden daraus keinen Durchschnitt: Ein Interessent nutzt ein System, nicht den Mittelwert aus dreien.
5 — Beobachtete statt angenommener Wettbewerber
Ausgewertet wird ausschließlich, welche Anbieter die Systeme tatsächlich nennen. Diese Menge weicht in der Praxis oft erheblich von der Wettbewerberliste ab, die ein Unternehmen selbst führt. Für die Frage, was ein Interessent zu sehen bekommt, ist allein die beobachtete Menge relevant.

Prompt-Auswahl

Ein Prompt-Set ist eine Auswahlentscheidung — und wird als solche dokumentiert.

Die Auswahl der Fragen bestimmt das Ergebnis stärker als jede andere Stellschraube. Deshalb wird sie schriftlich begründet und nicht zwischen zwei Messzeitpunkten still verändert.

Was ein guter Buyer Prompt hat

  • eine erkennbare Kaufabsicht, keine reine Wissensfrage
  • eine implizite oder explizite Bitte um konkrete Anbieter
  • genügend Kontext, damit ein sinnvolles Wettbewerbsfeld entsteht: Branche, Größe, Region, Anlass
  • eine Formulierung, wie sie ein Fachverantwortlicher tatsächlich verwenden würde
  • keinerlei Nennung der zu messenden Marke

Was wir bewusst ausschließen

  • reine Markenabfragen („Was ist X?“) — sie messen Bekanntheit, nicht Empfehlung
  • Fragen ohne Anbieterbezug — sie erzeugen Erklärtexte statt Anbieterlisten
  • sehr breite Kategorienfragen — das Wettbewerbsfeld wird beliebig
  • extrem enge Nischenfragen — die Antwort enthält kaum verwertbare Nennungen
  • Suggestivfragen, die eine gewünschte Antwort nahelegen

Streuung

Generative Antworten schwanken. Das ist kein Messfehler.

Es ist eine Eigenschaft der Systeme. Zwei Durchläufe derselben Frage können unterschiedliche Anbieter, Reihenfolgen und Begründungen liefern — ohne dass sich irgendetwas verändert hat.

Woher die Schwankung kommt

  • die generative Erzeugung selbst ist nicht deterministisch
  • die Websuche liefert zur Laufzeit unterschiedliche Trefferlagen
  • Modellversionen werden ohne Ankündigung aktualisiert
  • kleine Formulierungsunterschiede verschieben das Anbieterfeld

Wie wir damit umgehen

  • Wiederholung statt Einzelabfrage — Häufigkeit statt Ja/Nein
  • Ausweis der Run Consistency als eigene Kennzahl
  • Vergleich nur zwischen Messungen mit identischem Verfahren
  • Einordnung jeder Veränderung gegen die bisher beobachtete Streuung

Die praktische Konsequenz

Eine Veränderung von „in einem von fünf Durchläufen genannt“ auf „in zwei von fünf“ ist kein Erfolg. Sie liegt vollständig im erwartbaren Rauschen. Wir berichten solche Bewegungen als das, was sie sind: nicht interpretierbar. Diese Zurückhaltung kostet uns gelegentlich eine gute Erfolgsmeldung — sie ist der Preis dafür, dass die Meldungen, die wir machen, belastbar sind.

Grenzen

Was diese Messung ausdrücklich nicht ist.

Kein Ranking

Es gibt keine Ergebnisliste und keine Position im Sinne klassischer Suchmaschinen. Die Reihenfolge innerhalb einer generierten Antwort ist die instabilste aller erhobenen Größen. Wer eine „Position 1 in ChatGPT“ verkauft, beschreibt etwas, das es so nicht gibt.

Keine Reichweitenmessung

Wir wissen nicht, wie oft eine Frage tatsächlich gestellt wird. KI-Anbieter veröffentlichen keine Abfragevolumina. Die wirtschaftliche Bewertung eines Intents entsteht deshalb aus Ihrem Vertriebswissen, nicht aus unserer Messung.

Kein Blick in das Modell

Angeführte Quellen zeigen nur den Anteil der Antwort, der aus der Websuche stammt. Was ein Modell aus dem Training über einen Anbieter weiß und wie stark das die Antwort prägt, ist von außen nicht messbar.

Keine Kausalität aus einer Einzelmessung

Wenn sich nach einer Maßnahme etwas verändert, ist damit nicht belegt, dass die Maßnahme die Ursache war. Belastbarer wird es nur durch definierte Messzeitpunkte, unveränderte Verfahren und die bewusste Trennung einzelner Veränderungsschritte — und selbst dann bleibt es eine Beobachtung unter unkontrollierten Bedingungen.

Offenlegung

Was in jedem Bericht mitgeliefert wird.

  • das vollständige Prompt-Set im Wortlaut
  • Anzahl der Durchläufe je Prompt
  • eingesetzte Systeme und, soweit verfügbar, Modellversion
  • Messdatum und Zeitraum der Erhebung
  • Websuche-Status je Durchlauf
  • alle angeführten Quellen je Durchlauf
  • die Rohantworten, nicht nur die Auswertung
  • die Auswahlbegründung für das Prompt-Set

Vertiefende Beiträge zu einzelnen methodischen Fragen finden Sie unter Research. Praktische Fragen zur Abgrenzung von SEO und GEO beantwortet die FAQ.

Der erste Schritt ist eine Messung, keine Maßnahme.

Wir starten mit einem definierten Prompt-Set aus Ihrer Kaufsituation und messen, wo Sie heute stehen. Ohne diese Ausgangslage lässt sich später nicht beurteilen, ob eine Veränderung eingetreten ist.