KI-Einführung im Mittelstand: Warum Führung über den Erfolg entscheidet

Die TÜV Weiterbildungsstudie 2026 hat 500 Unternehmen ab 20 Beschäftigten befragt, durchgeführt von Forsa. Das Ergebnis: 56 % der Unternehmen nutzen generative KI. Nur 27 % haben ihre Beschäftigten dazu geschult. Zwischen Nutzung und Kompetenz liegt also eine deutliche Lücke.

Die gleiche Studie zeigt, dass Führungskompetenzen auf Rang zwei der Weiterbildungsprioritäten liegen. Unternehmen wissen also, dass Führung eine Rolle spielt. In der Praxis wird Führung bei der KI-Einführung trotzdem oft als Nebenthema behandelt, während Tool-Auswahl und Datenschutz die Projektpläne füllen.

Dazu kommt der rechtliche Rahmen. Art. 4 der KI-Verordnung (KI-Kompetenz) gilt seit dem 02.02.2025 und wurde 2026 durch den Digital Omnibus abgeschwächt: Unternehmen müssen Maßnahmen zur Förderung der KI-Kompetenz ergreifen. Wie diese Maßnahmen im Einzelfall aussehen, sollten Sie mit Ihrer Rechtsberatung klären. Fachlich lohnt es sich, die Frage größer zu stellen: Welche Kompetenz brauchen Menschen, um KI in ihrer Arbeit sinnvoll einzusetzen?

Neue Werkzeuge verändern Arbeit nur dann, wenn Menschen ihr Verhalten ändern. Aus der Psychologie wissen wir, dass Verhalten stark vom direkten Umfeld geprägt wird. Mitarbeitende beobachten genau, wie ihre Führungskraft mit KI umgeht: ob sie selbst Fragen stellt, ob sie Fehler beim Ausprobieren toleriert und ob sie Zeit dafür einräumt.

Hinzu kommt Unsicherheit. KI berührt Fragen, die Menschen persönlich treffen: Wird meine Arbeit weniger wert? Mache ich etwas falsch, wenn ich KI nutze? Darf ich das überhaupt? Unter Unsicherheit greifen Menschen auf Bewährtes zurück. Das ist aus meiner Forschung zu Entscheidungen unter Druck gut bekannt. Wer keine Orientierung bekommt, bleibt beim alten Arbeitsablauf.

Führungskräfte sind deshalb die wichtigste Stelle, an der Akzeptanz entsteht oder verloren geht. Sie übersetzen die Entscheidung der Geschäftsführung in den Alltag ihres Teams. Wenn sie selbst unsicher sind, geben sie diese Unsicherheit weiter, oft ohne es zu merken.

1. Den Zweck erklären. Mitarbeitende wollen wissen, warum das Unternehmen KI einführt und was das für ihre Arbeit bedeutet. Führungskräfte sollten konkret sagen, welche Aufgaben leichter werden sollen und welche Ziele dahinterstehen. Allgemeine Aussagen zur Zukunftsfähigkeit helfen wenig.

2. Sorgen ansprechen. Die Angst um den eigenen Arbeitsplatz oder die eigene Bedeutung im Team ist real. Führungskräfte sollten sie offen ansprechen, auch wenn sie nicht jede Frage sofort beantworten können. Ehrliche Antworten schaffen mehr Vertrauen als Beschwichtigung.

3. Erprobung erlauben. Kompetenz entsteht durch Anwendung am eigenen Arbeitsablauf. Dafür braucht es Zeit im Arbeitsalltag und die Erlaubnis, dass nicht jeder Versuch gelingt. Teams mit hoher psychologischer Sicherheit probieren mehr aus und teilen ihre Erfahrungen häufiger.

4. Selbst nutzen. Führungskräfte, die KI in ihrer eigenen Arbeit einsetzen, verstehen Möglichkeiten und Grenzen besser. Sie können glaubwürdiger darüber sprechen und merken früher, wo Mitarbeitende Unterstützung brauchen.

5. Arbeit neu verteilen. Wenn KI Aufgaben übernimmt, verschieben sich Rollen im Team. Führungskräfte sollten aktiv klären, wer welche Aufgaben künftig übernimmt und wie freie Kapazität genutzt wird. Bleibt das offen, entstehen Unklarheit und Konflikte.

Die Geschäftsführung legt den Rahmen fest, in dem Führungskräfte arbeiten. Dazu gehören klare Spielregeln, welche Tools für welche Daten erlaubt sind, und eine Aussage dazu, wie das Unternehmen mit frei werdender Kapazität umgeht. Ohne diesen Rahmen stehen Führungskräfte mit den Fragen ihrer Teams allein.

Für die Personalentwicklung heißt das: Führungskräfte zuerst schulen, vor den Anwendern. Ein Training für Führungskräfte in der KI-Transformation sollte die fünf Aufgaben oben üben, mit echten Situationen aus dem eigenen Unternehmen. Reine Tool-Schulungen für alle Mitarbeitenden bringen wenig, wenn die Führungskraft danach keinen Raum zum Anwenden gibt. Ein passendes Format beschreibe ich unter Trainings für Führungskräfte.

Sinnvoll ist auch ein fester Ansprechpartner je Bereich, der Fragen sammelt, gute Beispiele teilt und Rückmeldungen an die Projektleitung gibt. Diese Rolle muss keine Vollzeitstelle sein. Wichtig ist, dass sie benannt ist und Zeit dafür hat. Sonst landen alle Fragen wieder bei der Führungskraft oder bei der IT.

Hilfreich ist außerdem eine kurze Befragung vor und nach der Einführung. Sie zeigt, wo Akzeptanz und Nutzung wachsen und in welchen Bereichen Führungskräfte mehr Unterstützung brauchen. So wird aus einem Gefühl eine Grundlage für Entscheidungen.

• Mit dem Tool beginnen. Unternehmen kaufen Lizenzen, bevor klar ist, für welche Aufgaben KI eingesetzt werden soll. Die Folge sind geringe Nutzung und die Frage, ob sich die Investition lohnt.
• Führungskräfte überspringen. Schulungen richten sich direkt an alle Mitarbeitenden. Führungskräfte wissen dann weniger als ihr Team und halten sich zurück.
• Sorgen übergehen. Wer Bedenken als Widerstand abtut, treibt sie in informelle Gespräche. Dort wachsen sie weiter.
• Keine Zeit einplanen. KI soll Arbeit erleichtern, das Lernen kostet zunächst aber Zeit. Ohne eingeplante Zeit bleibt KI ein Zusatzthema, das im Tagesgeschäft untergeht.
• Rollen offen lassen. Wenn niemand für Fragen, Spielregeln und Anwendungsfälle zuständig ist, verläuft sich die Einführung nach den ersten Wochen.

In meinen Mandaten sehe ich regelmäßig, dass die gleichen Anwendungsfälle in einem Team schnell genutzt werden und im Nachbarteam kaum. Der Unterschied liegt meist in der Führung und in der Klarheit der Rollen. Bei der Hoffmann Group habe ich das konzernweite KI- und Data-Enablement-Programm neu aufgesetzt. Durch ein zweistufiges Rollout haben wir die Kosten mehr als halbiert, bei gleicher Reichweite. Gestufter Kompetenzaufbau funktioniert auch im Mittelstand, in kleinerem Maßstab.

Wie ich die KI-Einführung im Mittelstand begleite, beschreibe ich auf der Seite KI-Einführung im Mittelstand. Für größere Unternehmen mit vielen parallelen KI-Vorhaben ist ein AI Operating Model der nächste Schritt.