KI im Mittelstand einführen? Warum dieser Begriff Budget verbrennt

KI im Mittelstand einführen? Warum dieser Begriff Budget verbrennt

Das Problem: KI einführen wie ein ERP-System

In jedem dritten Beratungsangebot, das gerade im Mittelstand landet, steht der Begriff „KI-Einführung". Dahinter steckt eine Vorstellung, die jeder Geschäftsführer aus den letzten zwanzig Jahren kennt: Du wählst eine Plattform aus, implementierst sie, schulst deine Mitarbeiter, rollst es aus. Klingt strukturiert, ist es auch. Funktioniert nur leider nicht.

Wer KI wie ein klassisches System einführen will, verbrennt drei bis sechs Monate mit Konzeptphasen, Tool-Vergleichen und Stakeholder-Workshops, bevor das erste Werkzeug überhaupt produktiv läuft. Am Ende dieser Einführungsphase steht oft eine PowerPoint-Strategie, die in sechs Monaten niemand mehr beantworten kann, und ein Tool-Set, das niemand benutzt.

Warum das passiert

KI ist keine Plattform, die du einführen kannst. Du hast keine KI im Haus stehen wie ein SAP, das nun mit Daten gefüttert werden muss. KI in deinem Unternehmen besteht aus dutzenden kleinen Anwendungsfällen, die jeweils ein konkretes Problem lösen. Mailbearbeitung, Angebotsentwürfe, Dokumentensuche, Reporting-Automatisierung, jedes davon ist ein eigener Use Case mit eigener Architektur und eigenem Nutzen.

Ein KI-Einführungs-Projekt versucht, das alles in einen Rahmen zu pressen, der bei klassischer Software funktioniert. Anforderungsanalyse, Lastenheft, Auswahl, Implementierung, Schulung, Rollout. Bei KI-Werkzeugen ist diese Linie genau falsch. Was du brauchst, ist nicht ein Projekt, sondern eine Reihe kleiner, eigenständiger Werkzeug-Implementierungen, die jeweils direkt produktiv gehen.

Wie es besser läuft

Statt „wir führen KI ein" sagst du: „wir bauen drei konkrete Werkzeuge in den nächsten acht Wochen". Erstes Werkzeug: Eingangs-Mail-Triage für den Kundenservice. Zweites Werkzeug: Angebotsentwürfe aus Anfrageformularen. Drittes Werkzeug: semantische Suche im Sharepoint-Wiki.

Jedes dieser Werkzeuge hat einen klaren Owner im Team, einen klaren Nutzen (Mitarbeiter spart drei Stunden pro Woche), einen klaren Stack (welches LLM, welche Datenquelle, wie integriert) und einen klaren Ablauf (Konzept eine Woche, Build zwei Wochen, Test eine Woche, Produktiv-Setting). Nach acht Wochen sind drei Werkzeuge im Einsatz, die spürbar Wirkung haben.

Während eine klassische KI-Einführung in denselben acht Wochen noch in Workshop-Phase zwei von fünf wäre.

Was passiert mit der Strategie?

Strategie ist nicht weg, sie entsteht nur anders. Während die ersten drei Werkzeuge laufen, lernst du, was funktioniert und was nicht. Welche Daten sich gut für RAG eignen und welche nicht. Welche Mitarbeiter aufspringen und welche bremsen. Welche Use Cases skalieren und welche zu nischig sind.

Aus diesen drei Werkzeugen und diesen Erkenntnissen wächst eine echte KI-Strategie. Sie steht in zwei Sätzen auf einem Stück Papier, nicht in einer Vierzig-Folien-Präsentation. Sie ist aus der Praxis abgeleitet, nicht aus Vortrags-Material.

Der versteckte Schaden von Einführungs-Projekten

Wenn du KI im klassischen Modell einführst, entstehen drei Probleme, die in Demos nie sichtbar werden.

Erstes Problem: Du verlierst die schnellen Mitarbeiter. Wer im Unternehmen sowieso schon mit ChatGPT, Claude oder Copilot arbeitet (und das sind in jedem Mittelstand mehr Leute als die Geschäftsleitung denkt), wartet nicht auf die offizielle Einführung. Sie machen weiter wie bisher, manchmal an der IT vorbei. Wenn dann nach sechs Monaten das offizielle KI-Werkzeug kommt, ist es schon überholt und die schnellen Köpfe sind innerlich abgeschaltet.

Zweites Problem: Du fixierst dich zu früh. Eine KI-Strategie, die im April geschrieben wird und im Oktober ausgerollt wird, ist im Oktober schon obsolet. Modell-Landschaft, API-Preise, Tool-Optionen haben sich in den sechs Monaten dreimal gedreht. Du implementierst auf einer Basis, die nicht mehr aktuell ist.

Drittes Problem: Du züchtest Misstrauen im Team. Wenn die Geschäftsleitung „wir führen KI ein" sagt, fragen sich Mitarbeiter, ob sie ersetzt werden sollen. Wenn die Geschäftsleitung sagt „wir bauen ein Werkzeug, das Bernd in der Buchhaltung Routine abnimmt", weiß jeder im Team, dass es um Entlastung geht, nicht um Personalabbau. Sprache formt Erwartung.

Wie funktioniert das technisch?

Jetzt wird es etwas technischer. Wer nur die Strategie-Logik mitnehmen wollte, kann direkt zum Fazit springen.

Werkzeug-First heißt architektonisch: jedes Werkzeug ist eine eigenständige, kleine Anwendung. Eigene Datenquellen, eigene Modell-Wahl, eigenes Frontend wenn nötig. Keine zentrale KI-Plattform, auf der alles liegt. Stattdessen ein loses Set von Microservices, die über klare APIs miteinander reden und gemeinsam genutzte Bausteine teilen (Authentifizierung, Logging, Token-Tracking).

Konkret: bei einem Klienten im Immobilienbereich haben wir vier Werkzeuge in einer Oberfläche, aber jedes Werkzeug ist intern ein eigener Service. Home-Staging nutzt Imagen, Grundriss-Visualisierung nutzt Gemini, PDF-Schwärzung nutzt eine OCR-Pipeline ohne LLM, die Such-Funktion nutzt pgvector mit Claude. Vier Werkzeuge, vier Stacks, ein Frontend. Wenn morgen ein besseres Modell für Home-Staging erscheint, tausche ich genau diesen Service aus, ohne dass das gesamte System angefasst werden muss.

Diese Modularität ist genau der Punkt, an dem das Einführungs-Modell scheitert. Es will einen monolithischen Stack durchziehen, weil das vom klassischen ERP-Denken bekannt ist. KI in der Praxis verlangt das Gegenteil: kleine, austauschbare Bausteine, jeder für einen Use Case optimiert.

Die Infrastruktur dahinter ist überschaubar. PostgreSQL mit pgvector für Vektor-Suche, FastAPI als Backend, Nuxt oder Next.js fürs Frontend, Temporal für lange Workflows, n8n für Automatisierungen ohne Code. Alles auf Hetzner Cloud in Deutschland. Modell-Calls verschlüsselt an Anthropic, Google oder OpenAI, ohne Speicherung auf deren Seite.

Fazit

KI im Unternehmen einführen klingt nach Struktur, ist aber meist nur Strukturillusion. Was dahinter steckt, ist die Übertragung von ERP-Denken auf eine Technologie, die anders funktioniert.

Wer im Mittelstand wirklich KI nutzen will, baut keine Plattform, sondern Werkzeuge. Klein, konkret, mit einem Owner im Team und einem messbaren Nutzen. Drei Werkzeuge in acht Wochen schlagen jede sechs Monate dauernde Einführungs-Strategie. Aus den Werkzeugen ergibt sich die Strategie, nicht andersherum.

Wenn dir jemand KI-Einführung mit Roadmap, Change-Management und Schulungswelle verkauft, frag nach: wann läuft das erste Werkzeug produktiv? Wenn die Antwort jenseits von zwei Monaten liegt, weißt du, dass du im falschen Modell bist.

Du planst gerade ein KI-Einführungsprojekt im Mittelstand?

Lass uns in 25 Minuten besprechen, welche drei Werkzeuge bei dir den ersten konkreten Nutzen liefern. Kostenlos und unverbindlich.

Kostenloses Erstgespräch

Keine Cookies. Ehrenwort.

Kein Tracking, das dich verfolgt. Deine Privatsphäre ist mir wichtig.