KI im Mittelstand: Wie groß der Abstand kleiner Betriebe zu Großunternehmen wirklich ist

Wie viele kleine, mittlere und große Unternehmen nutzen KI?

Knapp jedes vierte kleine Unternehmen, aber mehr als jedes zweite große. Nach der amtlichen Erhebung des Statistischen Bundesamts (Destatis) zur Nutzung von Informations- und Kommunikationstechnik setzten 2025 in Deutschland 23 Prozent der Unternehmen mit 10 bis 49 Beschäftigten künstliche Intelligenz ein. Bei 50 bis 249 Beschäftigten waren es 36 Prozent, ab 250 Beschäftigten 57 Prozent. Über alle Größen hinweg nutzten 26 Prozent KI.

Destatis fragt nach konkreten KI-Technologien, etwa Textanalyse, Spracherkennung oder maschinellem Lernen, und erfasst nur Unternehmen ab 10 Beschäftigten. Andere Erhebungen kommen auf deutlich höhere Gesamtwerte; warum sich die Quoten so stark unterscheiden, haben wir in unserem Überblick zu KI im technischen Fachhandel erklärt. Für den Vergleich nach Betriebsgröße ist die amtliche Statistik die belastbarste Grundlage: Sie weist Jahr für Jahr dieselben drei Größenklassen aus, und die europäische Statistikbehörde Eurostat veröffentlicht die Werte für die gesamte EU in derselben Einteilung.

Tabelle seitlich wischen →

Quellen: Destatis (Pressemitteilungen Nr. 453/2023 und Nr. 444/2024, Tabelle 2025), Eurostat. Ab 2025 gilt bei Destatis der EU-Unternehmensbegriff, siehe unten.

Deutschland liegt damit in jeder Größenklasse über dem EU-Durchschnitt. Am deutlichsten ist der Vorsprung bei den kleinen Unternehmen: 23 gegen 17 Prozent.

Wächst der Abstand zwischen kleinen und großen Unternehmen oder schrumpft er?

Beides, je nachdem, wie Sie rechnen. In Prozentpunkten ist er gewachsen: 2023 lagen große Unternehmen 25 Punkte vor den kleinen, 2025 waren es 34 Punkte. Im Verhältnis ist er geschrumpft: 2023 nutzten große Unternehmen KI dreieinhalbmal so häufig wie kleine, 2025 knapp zweieinhalbmal so häufig. Die kleinen Betriebe haben ihre Quote in zwei Jahren mehr als verdoppelt.

Eine Einschränkung gehört dazu. Seit dem Berichtsjahr 2025 verwendet Destatis den Unternehmensbegriff der EU, der Wert für 2025 ist deshalb nur eingeschränkt mit den Vorjahren vergleichbar. Der Schritt von 2023 auf 2024, beide nach alter Abgrenzung, zeigt aber dasselbe Muster: Die großen Unternehmen legten um 13 Prozentpunkte zu, die kleinen um 7. Gemessen am Ausgangswert wuchsen die kleinen trotzdem schneller.

Das ifo Institut kommt mit einer eigenen Umfrage vom Mai 2026 zu einem abweichenden Bild. Danach nutzten 67,2 Prozent der großen, 51,2 Prozent der kleinen und 47,2 Prozent der mittleren Unternehmen KI in ihren Geschäftsprozessen. Die Mitte lag hier also hinten. Wie ifo die Größenklassen abgrenzt, steht in der Veröffentlichung nicht, weshalb sich die Werte nicht neben die amtlichen legen lassen.

Ab welcher Betriebsgröße steigt die Nutzung deutlich?

Ab etwa 50 Beschäftigten, jedenfalls in der Befragung der Bundesnetzagentur. Sie misst darunter kaum Unterschiede und hat von Oktober bis Dezember 2024 808 Unternehmen telefonisch befragt und dabei auch Kleinstbetriebe einbezogen. 28 Prozent der Unternehmen mit 1 bis 9 Beschäftigten nutzten KI, 29 Prozent derer mit 10 bis 49. Bei 50 bis 249 Beschäftigten waren es 45 Prozent, ab 250 Beschäftigten 56 Prozent.

Die staatliche Förderbank KfW findet in ihrem Mittelstandspanel ebenfalls einen deutlichen Abstand zwischen den kleinsten und den größten Mittelständlern. Im Zeitraum 2022 bis 2024 setzten 19 Prozent der Mittelständler mit weniger als 5 Beschäftigten KI ein und 36 Prozent derer mit 50 oder mehr Beschäftigten; über alle Mittelständler waren es 20 Prozent. Die KfW nennt Betriebe ab 50 Beschäftigten „große Mittelständler", mit Großunternehmen ab 250 Beschäftigten im Sinne der amtlichen Statistik ist diese Gruppe nicht gleichzusetzen. In den Jahren 2016 bis 2018 hatte die Quote dieser Gruppe nach KfW-Angaben bei 6 Prozent gelegen.

Wer einen Fachhandelsbetrieb unterhalb dieser Schwelle führt, sollte sich deshalb nicht mit den Quoten großer Unternehmen vergleichen, sondern mit Betrieben seiner Größenklasse. Die Grenze, an der die Nutzung sprunghaft steigt, liegt in den Daten der Bundesnetzagentur bei der Schwelle zum mittleren Unternehmen.

Wofür nutzen kleine Betriebe KI, und wo ist der Abstand am größten?

Bei Textanalyse und Bilderzeugung liegen kleine und große Nutzer nah beieinander, beim maschinellen Lernen und bei der Erzeugung natürlicher Sprache weit auseinander. Destatis weist für 2025 aus, welche Technologien die Unternehmen einsetzen, die überhaupt KI nutzen:

Tabelle seitlich wischen →

Unsere Lesart: Ein kleiner Betrieb, der KI überhaupt nutzt, setzt sie für Textanalyse und Bilderzeugung fast so oft ein wie ein Großunternehmen. Am größten ist der Abstand mit je 18 Prozentpunkten beim maschinellen Lernen, also bei Verfahren, die aus eigenen Daten Muster ableiten, und bei der Erzeugung natürlicher Sprache; bei der Automatisierung von Abläufen sind es 11 Punkte. Maschinelles Lernen und Automatisierung setzen saubere Daten und eine Anbindung an die eigenen Systeme voraus, nicht nur ein Benutzerkonto. Für den Einstieg über Texte, etwa bei Angeboten im Innendienst, gibt es dagegen Werkzeuge, die ohne Projekt auskommen; wie das mit ChatGPT funktioniert, ohne dass Zahlen erfunden werden, steht in unserem Ratgeber zu Angeboten im Innendienst.

Warum setzen kleinere Betriebe KI seltener ein?

Vor allem, weil das Wissen fehlt. Destatis fragt Unternehmen, die KI erwogen, aber nicht eingeführt haben, nach ihren Gründen. 2025 nannten 73 Prozent der kleinen Unternehmen fehlendes Wissen, bei den großen waren es 67 Prozent. Unklarheit über die rechtlichen Folgen nannten 64 Prozent der kleinen und 56 Prozent der großen, zu hohe Kosten 33 gegen 26 Prozent. Nur beim Datenschutz drehte sich das Verhältnis: Hier äußerten die großen mit 63 Prozent etwas häufiger Bedenken als die kleinen mit 60 Prozent.

Das Muster ist nicht deutsch. Im EU-Durchschnitt war fehlende Expertise 2025 der häufigste Grund gegen KI, genannt von 70,89 Prozent der Unternehmen, die KI erwogen hatten. Für Deutschland meldete der Digitalverband Bitkom im September 2026 zudem, dass 85 Prozent der Unternehmen ab 20 Beschäftigten, die noch keine KI einsetzen, nach eigener Aussage das technische Know-how zur Implementierung fehlt. Diese Angabe bezieht sich auf alle Unternehmen ohne KI, nicht nur auf jene, die sie erwogen haben.

Kosten folgen erst mit Abstand. Die rechtlichen Fragen dagegen sind lösbar, aber sie brauchen eine klare Antwort im Betrieb; was im Umgang mit Kundendaten erlaubt ist, haben wir in KI und Datenschutz im B2B-Handel zusammengefasst. Für Ihren konkreten Fall ersetzt das keine Beratung durch einen Anwalt oder Datenschutzbeauftragten.

Liegt es an der Größe oder an etwas anderem?

Innerhalb des Mittelstands an etwas anderem, wenn man der KfW folgt. Ihre Forscher haben in einem statistischen Modell geprüft, welche Merkmale die KI-Nutzung erklären, wenn die übrigen Merkmale gleich gehalten werden. Ergebnis: Die Unterschiede zwischen den Größenklassen, von unter 5 bis 100 und mehr Beschäftigten, erwiesen sich dann als statistisch nicht signifikant. Entscheidend waren Innovation und Digitalisierung. Unternehmen mit kontinuierlicher Forschung und Entwicklung nutzten KI im Modell mit einer Wahrscheinlichkeit von 38 Prozent, Unternehmen mit einer Digitalisierungsstrategie mit 35 Prozent. Unternehmen ohne Innovationsaktivitäten und ohne Akademiker unter den Beschäftigten kamen auf 8 Prozent. Grundlage sind gut 6.800 Antworten aus dem KfW-Mittelstandspanel vom Frühjahr 2025.

Unsere Lesart: Die Betriebsgröße steht danach eher stellvertretend für Merkmale wie Forschung und Entwicklung, Beschäftigte mit Hochschulabschluss und einen Plan für die Digitalisierung. Das ist eine gute Nachricht für kleinere Betriebe, denn zumindest den Plan kann jeder Betrieb unabhängig von seiner Größe aufstellen. Wie KI dort hilft, wo Personal fehlt, beschreibt unser Beitrag zu KI im Innendienst bei Personalengpässen.

Wo steht der Handel, und wo der Großhandel?

Im Mittelfeld oder darunter. Eine Zahl für den technischen Fachhandel gibt es nicht. In der Befragung der Bundesnetzagentur lag der Handel ohne Kfz-Handel mit 26 Prozent knapp unter dem Gesamtwert von 29 Prozent. Für den Großhandel allein weist das ZEW, das Leibniz-Zentrum für Europäische Wirtschaftsforschung, in seiner Innovationserhebung mit Stand Frühjahr 2025 einen KI-Anteil von 17 Prozent aus, gegenüber 25 Prozent über alle erfassten Branchen. Generative KI setzten nach derselben Erhebung 27 Prozent der Großhändler ein. Das ifo Institut misst für den Handel insgesamt im Mai 2026 rund 45 Prozent, mit anderer Frage und zu einem späteren Zeitpunkt.

Für den technischen Handel selbst haben wir keine Erhebung zur KI-Nutzung gefunden, auch nicht vom Verband Technischer Handel (VTH). Am nächsten kommt eine Marktstudie des Zentralverbands Hartwarenhandel (ZHH) zum Produktionsverbindungshandel. Sie hat Händler, Hersteller sowie Handwerks- und Industriekunden befragt; bei der Frage nach der Beschäftigung mit KI antworteten 65 Händler. Ihr Befund: Hersteller und Industriekunden seien KI-affiner als Handwerkskunden und Händler. Nach Betriebsgröße unterscheidet die Studie nicht.

Wie belastbar sind diese Zahlen?

Innerhalb einer Quelle gut, zwischen den Quellen nur eingeschränkt. Jede Erhebung grenzt anders ab:

• Destatis und Eurostat fragen nach bestimmten KI-Technologien und erfassen Unternehmen ab 10 Beschäftigten. Seit 2025 gilt der EU-Unternehmensbegriff. Die Werte für 2026 waren bei Redaktionsschluss am 20. Oktober 2026 noch nicht veröffentlicht.
• Die KfW befragt Mittelständler einschließlich Kleinstbetrieben und fragt rückblickend nach dem Zeitraum 2022 bis 2024.
• Die Bundesnetzagentur hat im Herbst 2024 Unternehmen ausgewählter Wirtschaftszweige ab einem Beschäftigten befragt.
• Das ZEW zählt Unternehmen ab 5 Beschäftigten; ifo legt die Abgrenzung seiner Größenklassen in der Veröffentlichung nicht offen.
• Bitkom befragt Unternehmen ab 20 Beschäftigten und meldete im September 2026 eine Nutzungsquote von 57 Prozent, nennt in der Presseinformation aber keine Quote nach Größenklassen.

„Konzern" ist in keiner dieser Erhebungen eine Größenklasse.

Was heißen die Zahlen für Ihren Betrieb?

Dass die Größe Ihres Betriebs weniger entscheidet als das, was Sie daraus machen. Fünf Schritte, die sich aus den Daten ableiten:

1. Vergleichen Sie sich mit Ihrer Größenklasse. Ein Betrieb mit 10 bis 49 Beschäftigten, der KI nutzt, gehört nach der amtlichen Statistik zu knapp einem Viertel seiner Klasse, nicht zu einer abgehängten Minderheit.
2. Benennen Sie eine verantwortliche Person. Fehlendes Wissen ist in jeder Größenklasse der meistgenannte Grund gegen KI. Jemand im Betrieb muss sich das Wissen aneignen dürfen, mit Zeit dafür.
3. Schreiben Sie eine Digitalisierungsstrategie, auch eine kurze. Im KfW-Modell war sie einer der stärksten Treiber der KI-Nutzung.
4. Beginnen Sie bei Texten. Bei der Textanalyse liegen kleine Nutzer fast gleichauf mit großen (51 gegen 57 Prozent), und der Einstieg braucht kein Integrationsprojekt.
5. Klären Sie die Rechtsfragen früh. Unklarheit über rechtliche Folgen nennen kleine Betriebe häufiger als große. Eine schriftliche Regel, welche Daten in welches Werkzeug dürfen, nimmt diese Hürde.