Produkt · Dynamics 365 · Datenqualität

Duplikate im CRM erkennen, prüfen und zusammenführen.

Die Duplikat-Bereinigung läuft als eigener Bereich in Ihrer Dynamics-365-Umgebung. Sie lädt eine Tabelle im Ganzen, gruppiert phonetisch ähnliche Datensätze und macht daraus eine Arbeitsliste, die Ihr Team Gruppe für Gruppe abarbeitet — mit feldgenauer Vorschau vor jeder Zusammenführung.

Für alle, die einen gewachsenen Bestand aufräumen müssen, nicht den Einzelfall im Formular.

Vergleichsfelder der Tabelle Firma

Firmenname

name kc_name_soundex

E-Mail

emailaddress1 kc_emailaddress1_soundex

Adresse 1: Straße 1

address1_line1 kc_address1_line1_soundex

Adresse 1: Straße 2

address1_line2 kc_address1_line2_soundex

Adresse 1: Ort

address1_city kc_address1_city_soundex

Fünf Felder gleichzeitig, verglichen wird der Klang. Neben jedem Originalfeld liegt sein Soundex-Wert im Datensatz.

Das Problem

Ein Kunde, drei Datensätze, drei Wahrheiten.

Duplikate entstehen im Alltag: ein Import, eine Messeliste, ein Web-Formular, ein Tippfehler, eine Rechtsform mehr oder weniger. Solange sie im Bestand liegen, ist jede Auswertung darüber eine Schätzung. Das ist kein Schönheitsfehler, das ist ein Steuerungsproblem.

Der Forecast zählt doppelt

Zwei Datensätze zu einem Kunden tragen zwei Pipelines. Was die Vertriebsleitung addiert, gibt es in Wirklichkeit einmal.

Zwei Ansprachen, ein Empfänger

Kampagne und Serviceanschreiben gehen zweimal raus, mit unterschiedlichem Stand. Für den Empfänger ist das ein Unternehmen, das seine eigenen Daten nicht kennt.

Die Historie liegt verteilt

Aktivitäten, Angebote und Notizen verteilen sich über mehrere Datensätze. Wer den Kunden anruft, sieht einen Ausschnitt und hält ihn für das Ganze.

Zahlen, denen niemand traut

Hat ein Bericht einmal doppelt gezählt, wird die nächste Auswertung sicherheitshalber daneben in Excel geprüft. Danach steuert niemand mehr mit dem System.

Im Einzelfall klärt man das am Formular. Bei einem gewachsenen Bestand braucht es eine Liste, die man abarbeiten kann. Wenn Sie zuerst wissen wollen, wie es um Ihre Daten insgesamt steht, ist das eine Frage für unser Dynamics 365 Audit.

Wie die Erkennung arbeitet

Phonetische Ähnlichkeit statt exakter Übereinstimmung.

Das Werkzeug vergleicht nicht die Zeichenfolge, sondern den Klang. Neben jedem der fünf Vergleichsfelder liegt ein Soundex-Wert im Datensatz — ein Code, der ähnlich klingende Schreibweisen auf denselben Wert abbildet. Datensätze mit demselben Code landen im selben Bucket, aus mehrfach besetzten Buckets entstehen die Kandidaten für eine Duplikat-Gruppe.

Ausgewertet wird eine ganze Tabelle, nicht der Datensatz, der gerade offen ist: Tabelle wählen, laden, Arbeitsliste. Je Gruppe steht ein Score, ein Ähnlichkeitswert. Die Entscheidung bleibt beim Menschen.

Regelbasierte Duplikaterkennung und phonetische Erkennung schließen sich nicht aus. Dieses Werkzeug bringt die zweite Ebene mit und macht ihr Ergebnis als Arbeitsliste bedienbar.

Diagnose je Vergleichsfeld

Vor der ersten Zusammenführung zeigt das Werkzeug für jedes Vergleichsfeld, ob es als Erkennungsmerkmal überhaupt trägt — mit Feldname, technischem Feldnamen, Soundex-Feld und drei Kennzahlen:

  • Werte gefüllt

    Wie viele geladene Datensätze das Feld überhaupt befüllt haben. Ein Feld, das kaum gepflegt wird, trägt als Erkennungsmerkmal nichts.

  • Eindeutige Werte

    Wie viele verschiedene Werte darin vorkommen. Steht fast überall dasselbe, trennt das Feld die Datensätze nicht.

  • Doppelte Soundex-Buckets

    Wie viele Klang-Gruppen mehrfach besetzt sind. Genau dort sind Duplikate zu erwarten.

Duplikat-Bereinigung in Dynamics 365 vor dem Laden: links die Arbeitsliste mit Tabellenauswahl und Filter, rechts die Diagnose Duplikaterkennung mit einer Karte je Vergleichsfeld.
Die Diagnose vor der ersten Zusammenführung: Für jedes Vergleichsfeld stehen Feldname, technischer Feldname und Soundex-Feld nebeneinander, dazu Füllgrad, Zahl der eindeutigen Werte und die mehrfach besetzten Soundex-Buckets. Das Bild zeigt den Zustand vor dem Laden: Die Kennzahlen stehen auf null, die Struktur der Diagnose ist bereits sichtbar.
Wie die Bereinigung abläuft

Fünf Schritte je Gruppe — einer davon heißt „kein Duplikat".

Eine Arbeitsliste ist nur dann etwas wert, wenn jede Zeile zu einem Ergebnis führt. Deshalb endet jede Gruppe entweder in einer Zusammenführung oder in einer bewussten Entscheidung dagegen.

  • 1

    Gruppe aus der Arbeitsliste öffnen. Jede Gruppe zeigt, wie viele Datensätze sie umfasst und welchen Score, also welchen Ähnlichkeitswert, sie hat.

  • 2

    Master bestimmen. Ein Datensatz der Gruppe wird zum führenden. Er ist im Zusammenführen immer enthalten.

  • 3

    Einbeziehen entscheiden. Jeder weitere Datensatz der Gruppe lässt sich gezielt ausschließen. Was nicht zusammengehört, bleibt draußen.

  • 4

    Attributvergleich lesen. Feld für Feld steht nebeneinander, welcher Wert übernommen wird und welcher nicht — Firmenname, E-Mail, beide Straßenzeilen, Ort, Telefon.

  • 5

    Entscheiden: zusammenführen — oder als geprüft markieren, wenn die Gruppe kein Duplikat ist. Beides ist ein Ergebnis.

Was vor dem Zusammenführen sichtbar ist

  • Wie viele Datensätze die Gruppe umfasst
  • Wie viele davon im Zusammenführen landen
  • Den Score der Gruppe
  • Je Feld den Wert, der übernommen wird
  • Je Feld den Wert, der nicht übernommen wird
  • Ob die Werte in den Datensätzen übereinstimmen

Der Master ist immer Teil der Zusammenführung. Jeder weitere Datensatz der Gruppe ist eine Entscheidung, die jemand trifft.

Beispiel aus einer Sandkasten-Umgebung

3.741

geladene Firmen-Datensätze

1.778

Duplikat-Gruppen zur Prüfung

89

Seiten Arbeitsliste

Werte eines Testlaufs in einer Sandkasten-Umgebung. Sie zeigen die Größenordnung, in der das Werkzeug arbeitet, und sagen nichts über Ihren Bestand.

Vergleich einer Duplikat-Gruppe: Master-Auswahl, Einbeziehen-Häkchen und der Attributvergleich Feld für Feld, daneben die Gruppenliste mit Score und Blätterung.
Der Attributvergleich vor dem Zusammenführen: links die Duplikat-Gruppen mit Score und seitenweiser Blätterung, rechts die gewählte Gruppe. Der Master-Datensatz ist markiert, jedes Feld zeigt, ob sein Wert übernommen wird, und jede Zeile trägt ein Kennzeichen, ob die Werte übereinstimmen. Aufnahme aus einer Sandkasten-Umgebung.
Nachvollziehbarkeit

Eine Bereinigung, die man später erklären kann.

Wer massenhaft zusammenführt, muss Monate später noch sagen können, warum. Das Werkzeug führt neben der Arbeitsliste deshalb zwei weitere Reiter.

Reiter „Audit"

Neben der Arbeitsliste steht ein eigener Reiter für den Verlauf der Bereinigung. Welche Angaben er im Detail führt, zeigen wir in der Demo, statt es hier zu behaupten.

Reiter „Geprüfte Datensätze"

Was jemand als geprüft markiert hat, steht in einem eigenen Reiter.

Filter und Blätterung

Die Arbeitsliste lässt sich filtern und seitenweise abarbeiten. Ein großer Bestand wird damit zu Etappen statt zu einem Block.

Kein zweites System daneben

Die Bereinigung steht in der Dynamics-Navigation unter „Kunden", als eigener Eintrag neben Firmen und Kontakten. Wer bereinigt, wechselt dafür nicht die Umgebung.

Ihre Ansprechpartnerin

Sophie Lausberg verantwortet Entwicklung und Umsetzung bei KAISERSTADT. Sie zeigt Ihnen das Werkzeug im Betrieb und ordnet mit Ihnen ein, was Erkennung und Diagnose für Ihren Bestand bedeuten.

Sophie Lausberg

Sophie Lausberg

Head of Development, Project Management & Consulting

Übersetzt Geschäftsprozesse in Dynamics-Logik, von Workshop bis Code, mit hoher Anpassungsfähigkeit.

CustomizingLow-/No-CodePower Platform
Häufige Fragen

Was CRM-Verantwortliche zuerst fragen

Was passiert beim Zusammenführen mit Verknüpfungen, Aktivitäten und Historie?
Vor dem Zusammenführen zeigt das Werkzeug feldgenau, welcher Wert aus welchem Datensatz übernommen wird. Was mit abhängigen Objekten geschieht — Aktivitäten, Verknüpfungen, Dokumentablagen —, hängt an Ihrer Umgebung und daran, wie sie eingerichtet ist. Das sehen wir uns vor einer Bereinigung gemeinsam an Ihrem System an, statt es hier zu versprechen.
Wie verhindern wir, dass zwei ähnlich klingende, aber verschiedene Firmen zusammengeführt werden?
Nichts läuft automatisch. Das Werkzeug schlägt Gruppen vor. Je Gruppe steht ein Score, ein Ähnlichkeitswert. Zusammengeführt wird erst, wenn jemand den Master gesetzt, die einzubeziehenden Datensätze bestätigt und den Attributvergleich gelesen hat. Für Gruppen, die kein Duplikat sind, gibt es „Als geprüft markieren" — sie stehen dann in einem eigenen Reiter.
Funktioniert das nur für Firmen?
Im Werkzeug wird die Tabelle ausgewählt und geladen. Gezeigt und belegt ist die Tabelle Firma, mit fünf Vergleichsfeldern. Welche weiteren Tabellen in Ihrer Umgebung verfügbar und sinnvoll sind, klären wir im Gespräch. Wir listen hier keine Tabellen auf, die wir Ihnen nicht gezeigt haben.
Woher wissen wir vorher, ob die Erkennung in unserem Bestand trägt?
Dafür ist die Diagnose da. Sie weist je Vergleichsfeld aus, wie viele Werte gefüllt sind, wie viele davon eindeutig sind und wie viele Soundex-Buckets mehrfach besetzt sind. Ein Feld, das kaum gepflegt ist, taugt nicht als Erkennungsmerkmal — und das steht vor der ersten Zusammenführung auf dem Schirm, nicht danach.
Wie kommt das Werkzeug in unsere Umgebung, und was kostet es?
Dazu sagen wir hier nichts, was wir nicht halten können. Bereitstellung, Voraussetzungen in Ihrer Dynamics-Umgebung und das kaufmännische Modell hängen an Ihrem Setup. Das besprechen wir im Erstgespräch, bevor irgendetwas beauftragt wird — und wenn Ihr Fall damit nicht gelöst ist, sagen wir Ihnen das.
Nächster Schritt

Eine Demo, dann wissen Sie,
ob es für Ihren Bestand trägt.

Wir zeigen Erkennung, Diagnose und Attributvergleich am laufenden Werkzeug und besprechen, was davon in Ihrer Umgebung greift. Wenn Ihr Fall damit nicht gelöst ist, sagen wir Ihnen das.