Leistungen ↳ Website erstellen lassen ↳ Google & Meta Ads ↳ Für Arztpraxen ↳ Für Immobilienmakler ↳ Für Autohäuser & Kfz-Gutachter ↳ KI-Telefonassistent ↳ KI-Sichtbarkeit (GEO) So arbeiten wir Referenzen Über uns Blog Kontakt Kostenlos kennenlernen
19.08.2026 9 Min Lesezeit

KI-Projekte im Mittelstand: Warum 7 von 10 an den Daten scheitern

Jedes zweite KMU testet inzwischen KI — aber 72 Prozent der Projekte liefern keinen messbaren Nutzen. Der Hauptgrund ist nicht die Technik, sondern die Datenqualität. Dieser Artikel zeigt, was vor dem ersten KI-Projekt geklärt sein muss.

Die Zahlen sind eindeutig — und ernüchternd

Der KI-Index Mittelstand 2026 meldet einen Rekord: 51,2 Prozent der mittelständischen Unternehmen in Deutschland nutzen oder testen KI-Lösungen. Das ist ein Plus von 54 Prozent gegenüber dem Vorjahr. Die Nutzung von KI-Agenten — also Systemen, die eigenständig Aufgaben ausführen — hat sich fast verdoppelt, von 8,7 auf 16,6 Prozent.

Gleichzeitig veröffentlichte Gartner im April 2026 eine Analyse, die das Bild korrigiert: 72 Prozent aller Enterprise-KI-Projekte scheitern. Die RAND Corporation kommt sogar auf 80,3 Prozent, die ihren Business-Wert nicht liefern. Und in der Detailanalyse zeigt sich: Sieben von zehn gescheiterten Projekten landen nicht am Modell, nicht an der Software, nicht am Anbieter — sondern an schlechter Datenqualität und fehlender Daten-Governance.

Für KMU bedeutet das: Die Entscheidung, ob ein KI-Projekt funktioniert, fällt nicht beim Anbieter-Pitch. Sie fällt Wochen vorher — bei der Frage, ob die eigenen Daten überhaupt brauchbar sind.

Info

Laut Gartner (April 2026) nennen 38 Prozent der IT-Verantwortlichen schlechte Datenqualität oder begrenzte Datenverfügbarkeit als direkte Ursache für gescheiterte KI-Projekte. Quelle: Gartner I&O Report 2026

Was „schlechte Daten" im KMU-Alltag konkret bedeutet

Wenn Gartner von Datenqualität spricht, klingt das abstrakt. Im Arbeitsalltag eines Handwerksbetriebs, einer Steuerkanzlei oder einer Arztpraxis zeigt sich das Problem sehr konkret:

Kundendaten in fünf verschiedenen Systemen. Die Buchhaltung nutzt DATEV, der Vertrieb eine Excel-Tabelle, die Terminplanung ein separates Tool, Rechnungen liegen im Mailpostfach, und Notizen stehen auf Papier. Kein System kennt den kompletten Kunden.

Keine einheitliche Schreibweise. „Mueller GmbH", „Müller GmbH", „Mueller GmbH & Co. KG" sind im CRM drei verschiedene Kunden. Eine KI, die Umsatzprognosen erstellen soll, rechnet mit drei Datensätzen statt einem.

Lückenhafte Historien. Wer seine Angebote nicht systematisch erfasst, kann keine Conversion-Rate berechnen. Wer Ablehnungsgründe nicht notiert, kann keine Muster erkennen. Die KI braucht aber genau diese Muster.

Veraltete Kontaktdaten. E-Mail-Adressen, die seit Jahren nicht gepflegt werden. Telefonnummern von Ansprechpartnern, die längst gewechselt haben. Ein KI-Mailsystem, das auf diese Daten zugreift, produziert Bounces statt Ergebnisse.

Typische Datenprobleme im KMU

  • ✓ Kundendaten in mehreren Systemen verstreut
  • ✓ Keine einheitliche Schreibweise bei Namen und Adressen
  • ✓ Fehlende oder unvollständige Kontakthistorien
  • ✓ Veraltete E-Mail-Adressen und Telefonnummern
  • ✓ Keine strukturierte Erfassung von Ablehnungsgründen

Warum KI-Anbieter das Problem nicht lösen

Viele KI-Anbieter versprechen „sofort einsatzbereite Lösungen". Das ist technisch nicht falsch — die Software funktioniert. Aber sie funktioniert nur so gut wie die Daten, die sie bekommt. Das Prinzip ist dasselbe wie bei einer Tabellenkalkulationsformel: Wer falsche Zahlen eingibt, bekommt ein korrektes aber nutzloses Ergebnis.

Ein Beispiel aus der Praxis: Ein Malerbetrieb mit 12 Mitarbeitern führt ein KI-gestütztes Angebots-Tool ein. Das System soll anhand vergangener Projekte automatisch Preise kalkulieren. Das Problem: Die letzten drei Jahre wurden Angebote per Freitext-Mail verschickt. Keine standardisierten Posten, keine einheitliche Flächenerfassung, keine konsistente Materialzuordnung. Das KI-System hat zwar 400 Angebote — aber kann daraus keine Struktur ableiten.

Der Anbieter kann das nicht reparieren. Er kann die Software konfigurieren, aber die 400 Altangebote müssen vom Betrieb selbst aufbereitet werden — oder man fängt bei null an und sammelt erst sechs Monate lang strukturierte Daten.

Das ist der Grund, warum Mittelständler laut KI-Index nur 0,35 Prozent ihres Umsatzes in KI investieren — 30 Prozent unter dem globalen Schnitt. Nicht weil sie das Thema ignorieren, sondern weil die Vorarbeit aufwändiger ist als erwartet und im Anbieter-Pitch nicht erwähnt wird.

Die fünf Datenhausaufgaben vor jedem KI-Projekt

Bevor ein KMU-Betrieb überhaupt mit einem KI-Anbieter spricht, sollte er fünf Fragen beantworten können. Nicht perfekt — aber ehrlich.

1. Wo liegen unsere Kerndaten? Kundendaten, Projektdaten, Finanzdaten, Kommunikation. Listen Sie jedes System auf, in dem diese Daten heute gespeichert werden. Dazu gehören auch Excel-Dateien, E-Mail-Postfächer und Papierordner.

2. Gibt es eine einzige Quelle der Wahrheit? Wenn der gleiche Kunde in drei Systemen unterschiedlich hinterlegt ist, gibt es keine. Das muss nicht sofort ein teures CRM sein — aber es muss klar sein, welches System bei Konflikten „gewinnt".

3. Wie vollständig sind die Daten der letzten 12 Monate? Prüfen Sie stichprobenartig 20 Datensätze. Wie viele haben vollständige Kontaktdaten? Wie viele haben einen dokumentierten Projektstatus? Alles unter 70 Prozent ist ein Warnsignal.

4. Wer ist für die Datenpflege verantwortlich? Wenn die Antwort „alle" oder „niemand" lautet, ist das Problem identifiziert. Daten-Governance heißt: Eine Person oder Rolle ist zuständig dafür, dass neue Daten vollständig und korrekt erfasst werden.

5. Welche Daten braucht das geplante KI-Projekt tatsächlich? Nicht „alle Daten". Sondern: Welche konkreten Felder, welcher Zeitraum, welches Format? Ein Chatbot für Kundenanfragen braucht andere Daten als eine Umsatzprognose.

✓ Tun

  • Datenbestand inventarisieren
  • Führungssystem festlegen
  • Stichproben-Check 20 Datensätze
  • Datenpflege-Verantwortlichen benennen

✗ Lassen

  • Sofort KI-Tool kaufen ohne Dateninventur
  • Anbieter die Datenmigration überlassen
  • „Wir machen das nebenbei" als Strategie
  • Alle Daten auf einmal bereinigen wollen

Welche KI-Projekte trotz imperfekter Daten funktionieren

Die gute Nachricht: Nicht jedes KI-Projekt braucht perfekte Daten. Es gibt eine klare Hierarchie, welche Anwendungen mit wenig Datenaufwand starten können — und welche ohne saubere Datenbasis garantiert scheitern.

Geringer Datenaufwand (sofort startbar):

  • KI-Textassistenten für E-Mails, Angebote, Social Media (nutzen allgemeines Sprachverständnis, keine eigenen Daten nötig)
  • KI-Chatbots auf der Website (arbeiten mit vorhandenen Website-Inhalten)
  • Automatisierte Terminbuchung (braucht nur Kalender-Integration)

Mittlerer Datenaufwand (3-6 Monate Vorbereitung):

  • Kundensegmentierung und gezielte Ansprache (braucht saubere CRM-Daten)
  • Automatisierte Angebotsvorlagen (braucht strukturierte Projekthistorie)
  • Bewertungs- und Feedback-Analyse (braucht gesammeltes Kundenfeedback)

Hoher Datenaufwand (6-12 Monate Vorbereitung):

  • Umsatzprognosen und Kapazitätsplanung (braucht lückenlose Finanzdaten über Jahre)
  • Automatische Preiskalkulation (braucht standardisierte Projekt- und Kostendaten)
  • Predictive Maintenance für Maschinen (braucht Sensordaten und Wartungshistorie)

Der Fehler, den viele KMU machen: Sie starten mit der dritten Kategorie, weil der ROI dort am höchsten scheint. Aber ohne Datenbasis liefert genau diese Kategorie die größten Enttäuschungen. Besser ist der umgekehrte Weg — mit der ersten Kategorie starten, dabei die Datenpflege-Prozesse aufbauen, und sich schrittweise hocharbeiten.

Info

Laut KI-Index Mittelstand 2026 werden KI-Projekte im Mittelstand nur sehr selten abgebrochen — weniger als fünf Prozent der Unternehmen haben KI-Versuche eingestellt. Das zeigt: Wer richtig startet, bleibt dabei. Quelle: KI-Index Mittelstand 2026, Mittelstandsbund/Salesforce

Was KMU von gescheiterten Großprojekten lernen können

Die Gartner-Zahlen stammen aus Enterprise-Projekten — also Konzernen mit IT-Abteilungen, sechsstelligen Budgets und dedizierten Data-Teams. Wenn selbst diese Unternehmen zu 72 Prozent scheitern, ist die Warnung für KMU ohne IT-Abteilung umso deutlicher.

Aber KMU haben auch einen Vorteil: Sie sind kleiner. Das bedeutet weniger Datenquellen, kürzere Entscheidungswege und schnellere Bereinigungszyklen. Ein Handwerksbetrieb mit 200 Kunden kann seine Stammdaten in einem Wochenende prüfen. Ein Konzern mit 200.000 Kunden braucht dafür ein eigenes Projekt.

Die drei häufigsten Fehler, die KMU von Konzernen übernehmen sollten — als Warnung:

Fehler 1: KI als IT-Projekt behandeln. KI ist ein Geschäftsprojekt. Die Fachleute im Betrieb müssen definieren, welches Problem gelöst werden soll. Nicht die IT, nicht der Anbieter.

Fehler 2: Zu viel auf einmal. Konzerne scheitern häufig an zu breitem Scope. Für KMU gilt: Ein Prozess, ein Tool, ein messbares Ziel. Erst wenn das funktioniert, den nächsten Prozess angehen.

Fehler 3: Erfolg nicht messen. 76 Prozent der mittelständischen Unternehmen nutzen KI laut einer Studie vom Juli 2026 produktiv — aber nur 26 Prozent haben sie in Kernprozesse integriert. Die Lücke entsteht, weil niemand misst, ob das Tool tatsächlich Zeit oder Geld spart. Ohne Messung kein Beweis, ohne Beweis kein Ausbau.

Konkret: So macht ein 10-Personen-Betrieb seine Daten KI-ready

Ein Elektriker-Betrieb mit 10 Mitarbeitern, einem Büro-PC und einem Steuerberater als einziger „IT". Typische Ausgangslage — und trotzdem lösbar.

Woche 1-2: Bestandsaufnahme. Alle Orte auflisten, an denen Kundendaten gespeichert werden. Ergebnis ist meist: Buchhaltungssoftware, E-Mail-Programm, Handy-Kontakte, WhatsApp-Verläufe, Papierordner. Das ist keine Schande — das ist der Startpunkt.

Woche 3-4: Führungssystem wählen. Ein System wird zur „Wahrheit". Für die meisten KMU reicht anfangs eine gut strukturierte Google-Tabelle oder ein einfaches CRM wie HubSpot Free. Entscheidend: Ab jetzt werden neue Kunden NUR dort eingetragen.

Monat 2-3: Altdaten nachziehen. Nicht alles auf einmal. Nur die Kunden der letzten 12 Monate übertragen. Dabei Schreibweisen vereinheitlichen, fehlende Felder ergänzen, doppelte Einträge zusammenführen.

Monat 4-6: Prozess etablieren. Jeder neue Auftrag wird mit vollständigem Datensatz erfasst: Kunde, Leistung, Umfang, Preis, Ergebnis. Nach sechs Monaten hat der Betrieb einen sauberen Datensatz, der für einfache KI-Anwendungen ausreicht — zum Beispiel automatische Angebotserstellung oder Kundensegmentierung.

Das Gesamtinvestment: Etwa 2-3 Stunden pro Woche über sechs Monate. Kein externes Budget nötig. Und das Ergebnis ist unabhängig von jedem KI-Anbieter nützlich — saubere Daten verbessern auch ohne KI die Arbeit im Betrieb.

KI-Projekt geplant? Wir prüfen Ihre Datenbasis.

Bevor Sie in KI investieren, lohnt sich ein Blick auf Ihre Datenqualität. Wir analysieren kostenlos, ob Ihre Systeme bereit sind — ehrlich und ohne Verkaufsdruck.

"Kostenlose Analyse anfragen" →
Newsletter

Die besten Beiträge. Einmal im Monat.

Praxis-Tipps zu Google, Websites, Werbung und KI für Ihren Betrieb. Kein Spam, jederzeit mit einem Klick abbestellbar.

Kai von AnalyticsRocketonline — antwortet sofort