Carolli GmbHAnfragen
← Blog

10. Mai 2026

KI Einführung im Mittelstand: Schritt für Schritt

KI im Mittelstand einführen ohne Chaos: welcher Prozess zuerst, wie man anfängt, was typisch schiefläuft. Kein Strategie-Theater, sondern ein konkreter Ablauf.

Viele Betriebe wollen KI einführen. Die meisten wissen nicht, wo sie anfangen sollen.

Das Ergebnis: Sie testen zehn Tools, führen drei Piloten durch, und nach sechs Monaten läuft nichts produktiv.

Das ist kein KI-Problem. Das ist ein Vorgehens-Problem.

Schritt 1: Den richtigen Prozess wählen

KI braucht keinen Strategie-Workshop als Einstieg. Sie braucht einen konkreten Prozess.

Nicht jeden Prozess. Den richtigen.

Ein geeigneter Prozess für den Einstieg hat drei Eigenschaften: Er kommt mindestens einmal pro Woche vor. Er hat einen klar definierten Input. Er produziert einen strukturierten Output.

Beispiele die gut funktionieren: Angebotserstellung, Eingangsrechnungen prüfen, Prüfberichte schreiben, Kundenanfragen vorqualifizieren, Lieferantenanfragen strukturieren.

Beispiele die schlecht funktionieren: strategische Entscheidungen, Kreativarbeit ohne Vorlage, Führungsgespräche, alles was stark vom Kontext abhängt.

Wie Sie den ersten Prozess finden: Fragen Sie Ihre Mitarbeitenden, welche Aufgabe sie jeden Tag erledigen, die immer gleich abläuft und trotzdem viel Zeit kostet. Die Antwort ist Ihr Startpunkt.

Schritt 2: Den Prozess vollständig verstehen

Viele Betriebe bauen einen KI-Workflow, bevor sie den Prozess wirklich kennen. Das scheitert.

Bevor Sie anfangen, müssen Sie drei Fragen beantworten können:

Was kommt rein? Eine E-Mail, ein Formular, eine Tabelle mit Messwerten, ein Dokument? In welchem Format? Von wem? Immer gleich oder variierend?

Was soll rauskommen? Ein ausgefülltes Formular, ein Anschreiben, ein Prüfbericht, eine Zusammenfassung? Wie genau sieht das fertige Dokument aus?

Was passiert dazwischen? Welche Prüfschritte gibt es? Was fragt man nach wenn Informationen fehlen? Welche Ausnahmen gibt es?

Im Mittelstand steckt dieses Wissen oft im Kopf eines einzigen Mitarbeitenden. Den Prozess zu beschreiben ist die eigentliche Arbeit. Die KI-Implementierung danach ist der einfache Teil.

Schritt 3: Einen einfachen ersten Workflow bauen

Kein komplexes System zum Start. Ein einfacher Workflow, der einen Schritt im Prozess abnimmt.

Ein Beispiel: Ein technischer Händler bekommt 20 Anfragen pro Woche. Jede braucht 75 Minuten für das RFQ-Paket. Das sind 25 Stunden pro Woche, eine halbe Stelle, nur für Angebotsbearbeitung.

Der erste Workflow nimmt die eingehende Anfrage und strukturiert sie: Mengen, Maße, Toleranzen, Sonderwünsche werden automatisch extrahiert und in eine Kalkulationsvorlage übertragen. Das spart nicht 75 Minuten, aber 45. Der Rest braucht weiterhin menschliche Einschätzung.

Das ist kein Versagen. Das ist ein sauberer erster Schritt.

Schritt 4: Parallel testen, nicht ersetzen

Der neue Workflow läuft zunächst neben dem bestehenden Prozess.

Mitarbeitende erledigen die Aufgabe wie bisher und schauen gleichzeitig, was der Workflow produziert. Sie prüfen das Ergebnis. Sie melden, was nicht stimmt.

Das hat zwei Vorteile. Erstens: Sie sehen sofort, wo der Workflow gut funktioniert und wo er angepasst werden muss. Zweitens: Mitarbeitende vertrauen einem System mehr, wenn sie es begleitet haben, nicht wenn es über Nacht da ist.

Eine Woche Parallelbetrieb ist meist ausreichend für einfache Workflows.

Schritt 5: Übergeben und dokumentieren

Nach dem Pilotbetrieb kommt die Übergabe.

Zwei Dinge müssen am Ende vorhanden sein: Das Team kann den Workflow selbst bedienen, ohne externe Hilfe. Und es gibt eine Dokumentation, die erklärt, wie der Workflow funktioniert und was zu tun ist, wenn etwas nicht stimmt.

Keine Blackbox. Kein System, das nur der Dienstleister versteht.

Was in der Praxis schief läuft

Zu viele Prozesse gleichzeitig. Der häufigste Fehler. Drei Piloten parallel, keiner wird fertig. Besser: einen Prozess vollständig abschließen, dann den nächsten anfangen.

Zu hohe Erwartungen an den Start. KI-Workflows werden besser, wenn sie laufen. Der erste Monat ist nicht der Endzustand. Wer nach zwei Wochen aufgibt weil das Ergebnis nicht perfekt ist, bekommt nie den Nutzen.

Falschen Prozess gewählt. Zu komplex, zu selten, zu abhängig von menschlichem Urteil. Das lässt sich vorher prüfen. Ein kurzes Gespräch über den Prozess reicht, um einzuschätzen ob er geeignet ist.

Mitarbeitende nicht eingebunden. Wenn ein Workflow ohne die Leute entwickelt wird, die ihn nutzen sollen, wird er nicht genutzt. Mitarbeitende müssen von Anfang an mitlaufen, nicht am Ende informiert werden.

Was eine realistische Erwartung ist

Ein gut implementierter KI-Workflow für einen kaufmännischen Prozess spart typischerweise 60 bis 80 Prozent der bisherigen Bearbeitungszeit. Nicht für jeden Vorgang, aber für die Standardfälle, die die Mehrheit ausmachen.

Ein technischer Händler kommt von 75 Minuten auf 8 Minuten pro Anfrage. Ein QS-Mitarbeiter bekommt seinen Prüfbericht in 60 Sekunden statt in 30 Minuten. Ein Vertriebsmitarbeiter schreibt Angebote in einem Drittel der Zeit.

Das sind keine Ausnahmen. Das ist was passiert, wenn der richtige Prozess sauber implementiert wird.

Häufige Fragen

Wie lange dauert die Einführung von KI im Mittelstand? Ein erster produktiver Workflow ist in vier Wochen implementiert. Woche eins Prozessaufnahme, Woche zwei Bau und Test, Woche drei Pilotbetrieb, Woche vier Übergabe. Voraussetzung: ein klar abgegrenzter Prozess und ein Ansprechpartner im Betrieb.

Brauchen wir spezielle IT-Infrastruktur für KI? In der Regel nicht. Die meisten Workflows bauen auf dem auf, was bereits vorhanden ist: Microsoft 365, Google Workspace, E-Mail, bestehende ERP-Daten. Sondersysteme sind die Ausnahme.

Was kostet die KI-Einführung im Mittelstand? Das hängt vom Prozessumfang ab. Einfache Workflows sind günstiger als komplexe. Festpreis ist das richtige Format: Sie wissen vorher was Sie zahlen, kein offenes Beratungsbudget. Details klären wir im Erstgespräch.

Müssen wir uns um den EU AI Act kümmern? Wenn Sie KI einführen, ja. Sie brauchen ein KI-Inventar, eine Nutzungsrichtlinie und Schulungsnachweise für Mitarbeitende. Das ist überschaubar. Unser [KI Compliance Check](/ki-compliance-check) erledigt das parallel zur Implementierung.

Was passiert, wenn ein Mitarbeiter geht, der den Workflow kennt? Das ist einer der Vorteile einer sauberen Implementierung: Der Workflow ist dokumentiert, nicht im Kopf einer Person. Jeder neue Mitarbeitende kann in kurzer Zeit eingearbeitet werden.

---

Wenn Sie wissen wollen, welcher Prozess in Ihrem Betrieb als erstes geeignet ist: Der [kostenfreie KI Workshop](/ki-workshop) klärt das in 90 Minuten. Keine Präsentation, wir schauen direkt auf Ihre Abläufe.

Für die Implementierung: [KI Sprint in vier Wochen](/ki-sprint) oder [KI Implementierung Mittelstand](/ki-implementierung-mittelstand).

Weiterführend: [KI Automatisierung in der Angebotserstellung](/blog/angebotserstellung-automatisieren-fertigung) und [KI Compliance Check für den Mittelstand](/ki-compliance-check).

Jetzt KI-Compliance prüfen

In 3 Minuten wissen Sie, ob und wie der EU AI Act für Ihren Betrieb gilt.

Zum Compliance-Check

Wenn der Workshop Ihnen keine 3 konkreten Hebel mit ROI-Schätzung liefert, schicke ich Ihnen eine Flasche guten Weins als Entschuldigung.