Die Entwicklung rund um Künstliche Intelligenz verläuft in einer rasanten Geschwindigkeit – und wird immer schneller. Dies spiegelt sich auch in der Arbeitswelt wider. Eine Studie von Mittelstand Digital zeigt auf: Während im Jahr 2018 nur 3% der befragten KMU bereits KI einsetzten und für 87% der KI-Einsatz überhaupt kein Thema war, setzen 2023 bereits 15% der Unternehmen KI-Anwendungen ein.[1] Die gänzliche Ablehnung von KI schrumpfte auf nur noch 52%. Nimmt man eine weitere Studie der Bundesnetzagentur aus dem Jahr 2025 hinzu, wird noch deutlicher, wie rasant sich der Zugang zu und der Einsatz von Künstlicher Intelligenz entwickelt: Bereits 29% der Kleinunternehmen setzen KI ein, bei mittleren Unternehmen sind es 45%.[2] In nicht einmal 10 Jahren hat sich die Anwendung von KI also bereits enorm vervielfacht. Bei Großunternehmen ist der Anteil an KI-Nutzenden noch höher, als bei KMU: 56% der befragten Unternehmen setzen KI ein.
Diese Zahlen machen klar: Der Einsatz von KI ist bei vielen bereits im Unternehmensalltag angekommen – doch mit deutlichen Unterschieden. Beim Blick auf mehrere Studien zeichnet sich stets das gleiche Bild: Kleine und mittelständische Unternehmen setzen bisher noch deutlich seltener KI-Anwendungen ein, als größere Unternehmen. Woran kann das liegen? Und was sind die größten Herausforderungen bei der Implementierung von Künstlicher Intelligenz?
Fehlende Fachkräfte, fehlende Daten
In mehreren Studien nennen sowohl Unternehmen als auch externe Expert:innen bei der Befragung nach möglichen Hemmnissen und Hürden vor allem fehlende Fachkräfte und fehlendes Spezialwissen von Arbeitskräften. Auch eine mangelnde Datenbasis, begrenzte finanzielle Ressourcen und Bedenken zur Datensicherheit könnten reelle Hürden darstellen, weshalb KI-Projekte nicht umgesetzt würden.[3] Hierbei stehen KMU häufig vor denselben Hürden wie Großunternehmen. Diese universellen Probleme sind vor allem auf strukturelle Probleme, die die Wirtschaft belasten, und gleichzeitig die immer schnellere Weiterentwicklung von KI zurückzuführen. Denn Fachkräfte sind nicht von einem auf den anderen Tag aus- bzw. weitergebildet, die digitale Aufstellung eines Unternehmens zur idealen Datennutzung nicht mit einem Klick erreicht. Außerdem können steigende Zahlen an Cyberkriminalität und juristische oder ethische Fragen verunsichernd sein – für Unternehmen jeder Größe.
Was im Vergleich aber auffällt: KMU nennen einerseits den hohen Kostenfaktor, andererseits den schwer einschätzbaren Nutzen von KI eher als Hemmnis vor der KI-Implementierung als große Unternehmen. 64% der kleinen und 51% der mittleren, aber nur 36% der größeren Unternehmen geben das unsichere Kosten-Nutzen-Verhältnis als Hürde an.[4] Großunternehmen können ressourcenintensive Projekte eher umsetzen und aufgrund vorhandener Praxiserfahrungen leichter einschätzen, ob sich ein KI-Projekt lohnt oder nicht. Im Fall eines nicht-erfolgreichen Projektes sind Verluste schneller ausgeglichen. Laut dem Institut für deutsche Wirtschaft (IW) hätten kleinere Unternehmen dagegen oft weniger Erfahrung, weniger Fachwissen und geringere Ressourcen für die Informationsbeschaffung und den Wissensaufbau, was dazu führe, dass sie KI gar nicht erst einsetzen, oder nur in der Planung der Anwendung bleiben.
Welche Stärken haben KMU?
Was braucht es, damit KI-Projekte auch umgesetzt werden? KMU haben im Gegensatz zu Großunternehmen deutliche Vorteile und Stärken, die sie bei der Implementierung von KI-Anwendungen für sich nutzen können. Denn für KMU sind nicht nur unternehmensinterne Abstimmungsprozesse deutlich unkomplizierter als für große Unternehmen. Auch die Schulung von Personal geben sie im Vergleich seltener als Hindernis an.[5] Das IW erklärt dies mit den organisatorischen und rechtlichen Bedingungen großer Unternehmen: Durch eine Vielzahl an Beschäftigten sei die Weiterbildung bei der Einführung neuer Technologien mit einem deutlich höheren Aufwand verbunden. Außerdem sind Großunternehmen tendenziell häufiger mit dem AI Act der EU und anderen Regulatorien konfrontiert. Großunternehmen setzen Hochrisiko-KI-Systeme meist umfangreicher ein, als KMU – und sind damit in der Pflicht, ihr Personal dementsprechend zu schulen, was einen weiteren Mehraufwand bedeutet.
Trotzdem geben Großunternehmen mit 77% deutlich häufiger an, die KI-Kompetenz einzelner oder aller Angestellten erhöhen zu wollen, wenn der Einsatz von KI geplant ist – bei KMU liegt diese Bereitschaft bei 41% bis 58%.[6] Dabei liegt genau dort eine der großen Stärken von KMU: Durch eine niedrigere Anzahl an Beschäftigten und kürzere Kommunikationswege können notwendige KI-Schulungen mit einem geringeren organisatorischen Aufwand und somit um einiges ressourceneffizienter durchgeführt werden. Ist die Belegschaft für den Einsatz bereit, ist auch die konkrete Implementierung von KI-Systemen in bestehende Strukturen für KMU häufig mit weniger Aufwand verbunden: Während Großunternehmen größere und teilweise fragmentierte Datenmengen aus vielfältigen Quellen verarbeiten müssen, zeichnen sich KMU durch weniger komplexe Datenbestände aus.[7] Sie können KI einfacher implementieren und profitieren somit schneller von dem generierten Nutzen. Ist der Einsatz von KI einmal geplant, sind KMU also deutlich schneller startklar.
KMU sind schneller startklar – und bleiben flexibel
Von ihren kurzen Entscheidungswegen und einfacheren Strukturen profitieren KMU auch nach der Implementierung noch. Sie geben seltener als Großunternehmen an, vor anderen Herausforderungen zu stehen, die den KI-Einsatz hemmen.[8] Denn einerseits seien sie durch ihre meist lokale Marktorientierung weniger von geopolitischen Unsicherheiten und Risiken auf internationalen Märkten betroffen, so das IW. Andererseits seien interne Widerstände wie Akzeptanzprobleme, Angst vor dem Arbeitsplatzverlust oder fehlende Transparenz vor allem Schwierigkeiten, die Großunternehmen durch ihre organisatorische Komplexität mit mehr Managementebenen und Abteilungen als auch eine größere Anonymität eher betreffen würden. KMU dagegen könnten sowohl auf externe Veränderungen des Marktes flexibler reagieren, als auch interne Probleme schneller und auf einem direkteren Weg beheben. KMU geben in Umfragen auch seltener das Ziel an, durch KI Personal einzusparen zu wollen, als größere Unternehmen[9] – das führt zu einer größeren Akzeptanz der KI und geringeren internen Widerständen oder Ängsten.
KMU sind also – trotz den bisher noch niedrigen Nutzungszahlen – mit förderlichen Eigenschaften ausgestattet, um den Einsatz von KI anzugehen. Haben sie die Hürden beim KI-Start überwunden, können KMU mit KI deutliche Wettbewerbsvorteile erzielen und sind sicher für die Zukunft aufgestellt.
Wobei kann KI unterstützen?
Doch worin liegen die großen Vorteile von KI-Anwendungen im Unternehmensalltag? Was kann KI für den wirtschaftlichen Erfolg von KMU tun? Künstliche Intelligenz kann sehr vielfältig eingesetzt werden. Durch die Automatisierung von Fehlererkennung kann KI die Qualität von Produkten und Dienstleistungen nicht nur kontrollieren, sondern auch verbessern. Außerdem lohnt sich der Einsatz von KI vor allem in Bereichen mit Routineaufgaben, die viele Ressourcen binden. Werden monotone Tätigkeiten automatisiert, können sich die Mitarbeiter:innen stärker auf kreative oder strategische Aufgaben konzentrieren und ihre Produktivität steigern – und somit zu einer Wertschöpfung beitragen. Ebenso kann KI hochkomplexe Aufgaben oft deutlich schneller erledigen und souverän mit großen Datenmengen umgehen.
Auch Expert:innen von Mittelstand Digital sehen den größten Profit durch den KI-Einsatz vor allem in einer gesteigerten Prozesseffizienz.[10] Außerdem könne KI die Distribution und Logistik optimieren, den Kundenservice verbessern und für zielgenaue Werbemaßnahmen sorgen. Ein Einsatz von KI sei dabei in allen denkbaren Unternehmensbereichen möglich. Auch in einer Befragung der Bundesnetzagentur werden als bereits genutzte Einsatzbereiche am häufigsten Marketing und Vertrieb, IT und Produktion genannt. Dabei nutzen die befragten Unternehmen KI etwa zur Erzeugung und Analyse von Text, Sprache, Bild und Code, für Empfehlungen oder die Unterstützung bei der Entscheidungsfindung, zur Vorhersage von Ereignissen und Automatisierung von Steuerung und Robotik.[11] Den Anwendungsbereichen von KI sind also kaum Grenzen gesetzt – vor dem KI-Einsatz sollte lediglich gut überlegt werden, welche Prozesse Potenzial zur Qualitätssteigerung bieten, und wo sich besonders viele Ressourcen einsparen lassen.
Hier finden Sie Unterstützung
Haben Sie sich Ihre Ziele bereits gesetzt und wollen in Ihrem Unternehmen mit KI an den Start gehen? Damit Sie von der Praxiserfahrung anderer KMU profitieren können, hat das Zentrum Zukunft der Arbeitswelt dafür inspirierende Best Practices zur Einführung von KI-Anwendungen in KMU mit praxisnahen und handfesten Tipps zusammengestellt. Außerdem finden Sie weiterführende Informationen, Praxisangebote und Orientierung rund um die Themen Künstliche Intelligenz, Recht und Digitalisierung im Kompetenzatlas des BZI. Dort sind Expert:innen, Publikationen und Unterstützungsangebote gebündelt abrufbar. Aktuelle Workshops, Weiterbildungsformate und Veranstaltungen finden Sie zudem im Veranstaltungskalender des BZI.
[1] Mittelstand digital: KI im Mittelstand, 2023.
[2] Bundesnetzagentur für Elektrizität, Gas, Telekommunikation, Post und Eisenbahnen: KI in Unternehmen. Einsatz, Ressourcen und Herausforderungen, 2025.
[3] Mittelstand digital 2023; Bundesnetzagentur 2025; Institut der deutschen Wirtschaft Köln e.V.:IW-Trends. Ziele, Nutzen-Kosten-Verhältnis und Hemmnisse Künstlicher Intelligenz in der deutschen Wirtschaft, 2025.
[4] IW-Trends 2025.
[5] IW-Trends 2025.
[6] Bundesnetzagentur 2025.
[7] IW-Trends 2025.
[8] IW-Trend 2025.
[9] IW-Trends 2025.
[10] Mittelstand Digital 2023.
[11] Bundesnetzagentur 2025.