Carolli GmbHAnfragen
← Blog

18. Mai 2026

KI Kosten im Mittelstand: Was es wirklich kostet und wann es sich rechnet

KI ist teurer als erwartet, sagen 33% der Unternehmen. Warum das stimmt, welche Kosten versteckt sind und wann sich KI für Mittelstandsbetriebe rechnet.

33 Prozent der deutschen Unternehmen sagen, KI ist teurer als erwartet. Das ist kein Zufall.

Die sichtbaren Kosten sind klein. Die versteckten Kosten werden unterschätzt. Und der ROI kommt, aber nicht sofort und nicht von selbst.

Dieser Artikel rechnet das durch.

Was KI auf den ersten Blick kostet

Die direkten Kosten sind überschaubar. Eine ChatGPT-Teams-Lizenz kostet 25 bis 30 Euro pro Nutzer und Monat. Claude oder Gemini liegen in ähnlichen Bereichen. API-Nutzung für automatisierte Workflows kostet je nach Volumen zwischen 50 und einigen hundert Euro im Monat.

Wer nur diese Zahlen sieht, fragt sich warum irgendjemand sagt KI sei teuer.

Die Antwort liegt woanders.

Die versteckten Kosten einer KI-Einführung

Prozessdokumentation

Das ist die Kostenstelle, die fast niemand einkalkuliert.

KI arbeitet mit dem, was aufgeschrieben ist. Wer Prozesse nicht dokumentiert hat, muss das zuerst nachholen. Einkaufsprozesse, Angebotsregeln, Ausnahmebehandlungen, Entscheidungslogiken. Was im Kopf der Mitarbeitenden steckt, muss auf Papier.

Das ist zeitaufwendig. Ein mittelgroßer Beschaffungsprozess mit allen Ausnahmen braucht 3 bis 5 Werktage für eine saubere Dokumentation. Wer das intern macht, bindet einen erfahrenen Mitarbeitenden. Wer es extern macht, zahlt einen Berater.

In Zahlen: 3 bis 5 Tage interner Aufwand oder 3.000 bis 6.000 Euro externe Kosten, nur für die Prozessdokumentation eines einzigen Workflows.

Prompt Engineering und Konfiguration

Ein KI-Tool ist keine Plug-and-play-Lösung. Es muss auf den Betrieb eingestellt werden.

Prompts müssen geschrieben, getestet und angepasst werden. Ausnahmen müssen definiert werden. Workflows müssen mit den bestehenden Systemen verbunden werden. Das braucht Zeit und Know-how.

Wer das unterschätzt, hat nach vier Wochen ein System das grundsätzlich funktioniert, aber 30 Prozent der Fälle falsch behandelt. Die restliche Arbeit beginnt dann erst.

Realistische Größenordnung für einen ersten Workflow: 10 bis 20 Stunden Konfigurationsarbeit. Intern oder extern.

Change Management und Schulung

Mitarbeitende die mit KI arbeiten sollen, brauchen mehr als eine 30-Minuten-Demo.

Sie brauchen Klarheit darüber was das System kann und was nicht. Sie brauchen Vertrauen, dass ihr Job nicht gefährdet ist. Sie brauchen Zeit zum Ausprobieren. Und sie brauchen einen Ansprechpartner wenn etwas nicht funktioniert.

Wer das nicht einplant, bekommt KI-Systeme die nach sechs Wochen kaum noch genutzt werden. Nicht weil das System schlecht ist. Sondern weil die Einführung am Menschen vorbei lief.

Kalkulationsgrundlage: 4 bis 8 Stunden Schulung und Begleitung pro betroffenem Mitarbeitenden. Bei 5 Mitarbeitenden sind das 20 bis 40 Stunden.

Datenqualität und -aufbereitung

KI-Systeme, die mit Unternehmensdaten arbeiten, brauchen saubere Daten.

Wenn Lieferantenstammdaten unvollständig sind, kann das KI-System keine sinnvollen Empfehlungen geben. Wenn Produktbeschreibungen inkonsistent sind, funktioniert die automatische Klassifizierung nicht. Wenn E-Mail-Archive unstrukturiert sind, fehlt die Trainingsbasis.

Datenbereinigung ist langweilig, teuer und wird trotzdem unterschätzt. Wer Glück hat, ist die Datenlage gut genug. Wer Pech hat, verbringt mehr Zeit mit Datenbereinigung als mit KI.

Was ein realistisches Gesamtbudget ist

Für einen ersten KI-Workflow im Beschaffungs- oder Vertriebsbereich, von der Prozessdokumentation bis zum stabilen Betrieb:

Kleines Projekt (1 Workflow, klar definiert, gute Datenlage): Externe Kosten: 12.000 bis 18.000 Euro einmalig Laufende Kosten: 200 bis 500 Euro pro Monat (Lizenzen, API)

Mittleres Projekt (2 bis 3 Workflows, moderate Vorbereitung nötig): Externe Kosten: 20.000 bis 35.000 Euro einmalig Laufende Kosten: 400 bis 800 Euro pro Monat

Das sind Implementierungskosten. Keine Softwarelizenzen für eigene KI-Systeme, keine Infrastrukturprojekte, keine großen IT-Projekte.

Wann sich KI rechnet

Der ROI einer KI-Implementierung ist gut berechenbar, wenn man ehrlich rechnet.

Beispiel Beschaffung:

Ein Einkäufer verarbeitet 20 Anfragen pro Woche. Jede braucht 75 Minuten. Das sind 25 Stunden pro Woche.

Nach der Implementierung: 8 Minuten pro Anfrage. Das sind 2,7 Stunden pro Woche. Ersparnis: 22 Stunden pro Woche.

Bei einem Vollkostensatz von 40 Euro pro Stunde (Gehalt plus Nebenkosten): 880 Euro pro Woche, rund 42.000 Euro pro Jahr.

Implementierungskosten von 15.000 Euro rechnen sich in weniger als 5 Monaten.

Was die Rechnung voraussetzt:

Die 22 gesparten Stunden müssen tatsächlich in andere produktive Arbeit fließen. Wer die Zeit nicht anderweitig nutzt, spart nur auf dem Papier.

Das klingt selbstverständlich, ist es aber nicht. Change Management bedeutet auch: die freigewordene Kapazität aktiv umlenken.

Der häufigste Fehler

Betriebe kaufen Lizenzen, verteilen Zugänge und warten auf Ergebnisse. Die Ergebnisse kommen nicht.

KI ist kein Werkzeug das man anschaltet. Es ist ein Prozess der gebaut, konfiguriert und begleitet werden muss. Wer das nicht einplant, hat nach sechs Monaten hohe Kosten und wenig Nutzen.

Das erklärt die 33 Prozent aus der Bitkom-Studie. Nicht die Technologie ist teurer als erwartet. Die Einführung ist aufwendiger als erwartet.

Häufige Fragen

Gibt es Förderung für KI-Implementierung im Mittelstand? Ja. Das BAFA fördert digitale Beratungsleistungen, dazu gehören KI-Prozessanalysen und Implementierungsbegleitung. Die Konditionen ändern sich regelmäßig. Aktueller Stand: [BAFA-Förderung KI-Beratung 2026](/blog/bafa-foerderung-ki-beratung-2026).

Muss ich sofort in teure Systeme investieren? Nein. Der richtige Einstieg ist fast immer ein einzelner Prozess mit Standardwerkzeugen. Teure Speziallösungen kommen, wenn die Grundlagen stabil sind.

Wie lange bis zum ersten messbaren Ergebnis? Bei einem klar definierten Workflow: 4 bis 6 Wochen bis zum Produktivbetrieb, 2 bis 3 Monate bis zu stabilen Kennzahlen.

Was wenn der Prozess sich ändert? KI-Workflows müssen gepflegt werden. Wenn sich ein Prozess ändert, muss der Workflow angepasst werden. Das ist kein einmaliges Projekt, sondern laufende Wartung. Einzuplanen: 2 bis 4 Stunden pro Monat für Anpassungen und Überwachung.

Lohnt sich KI auch für kleine Betriebe mit 20 bis 30 Mitarbeitenden? Ja, wenn der Prozess das hergibt. Ein Betrieb mit 25 Mitarbeitenden, der täglich Anfragen bearbeitet, hat oft mehr Automatisierungspotenzial als ein Betrieb mit 80 Mitarbeitenden mit internen Verwaltungsaufgaben. Die Betriebsgröße ist nicht entscheidend, das Prozessvolumen schon.

---

Wenn Sie wissen wollen was KI in Ihrem konkreten Betrieb kosten würde und wann es sich rechnet: Im [kostenfreien KI Workshop](/ki-workshop) schauen wir auf Ihre Abläufe und rechnen das gemeinsam durch. 90 Minuten, keine Präsentation, konkrete Zahlen.

Für die Grundlagen: [KI Einführung Mittelstand Schritt für Schritt](/blog/ki-einfuehrung-mittelstand-schritt-fuer-schritt). Für automatisierte Prozesse: [KI Prozessautomatisierung im kaufmännischen Bereich](/blog/ki-prozessautomatisierung-kaufmaennisch).

Jetzt KI-Compliance prüfen

In 3 Minuten wissen Sie, ob und wie der EU AI Act für Ihren Betrieb gilt.

Zum Compliance-Check

Wenn der Workshop Ihnen keine 3 konkreten Hebel mit ROI-Schätzung liefert, schicke ich Ihnen eine Flasche guten Weins als Entschuldigung.