KI-Strategie entwickeln: So kommt Ihr Unternehmen vom Tool-Chaos zum Plan
KI-Strategie für Unternehmen entwickeln: die 6 Bausteine, Vorgehen Schritt für Schritt, Priorisierung der Anwendungsfälle und eine 12-Monats-Roadmap.
Eine KI-Strategie legt fest, welche Ziele Ihr Unternehmen mit künstlicher Intelligenz erreichen will, welche Anwendungsfälle Sie dafür in welcher Reihenfolge umsetzen und welche Regeln, Daten und Kompetenzen Sie dafür brauchen. Am Ende steht eine Roadmap für die nächsten 12 bis 18 Monate, keine Hochglanzpräsentation.
Gemeint ist hier die Strategie eines einzelnen Unternehmens, nicht die KI-Strategie der Bundesregierung. Dieser Artikel gehört zu meinem Leitfaden KI im Unternehmen einführen und zeigt Ihnen, wie Sie in sechs Schritten zu einer Strategie kommen, die im Alltag trägt.
Warum Unternehmen jetzt eine KI-Strategie brauchen
Laut Bitkom planen oder diskutieren 47 % der deutschen Unternehmen ab 20 Beschäftigten den Einsatz von KI, 36 % nutzen sie bereits (September 2025). Gleichzeitig sagten im Work Trend Index von Microsoft und LinkedIn 60 % der befragten Führungskräfte, dass ihrem Unternehmen eine Vision und ein Plan für KI fehlen.
Was ohne Plan passiert, sehe ich in fast jedem Erstgespräch. Drei Abteilungen haben drei verschiedene Tools abonniert. Die Vertriebsleiterin nutzt privat ChatGPT, der Einkauf ein Übersetzungstool mit Gratis-Konto. Niemand weiß, welche Daten wo landen, und niemand kann sagen, ob sich irgendetwas davon rechnet. Eine KI-Strategie ordnet dieses Feld, bevor es teuer wird.
KI-Strategie, Digitalstrategie, Datenstrategie: wie hängt das zusammen?
Die drei Begriffe werden oft durcheinandergeworfen. Für die Praxis reicht eine einfache Abgrenzung:
| Kriterium | Digitalstrategie | Datenstrategie | KI-Strategie |
|---|---|---|---|
| Frage | Welche Abläufe und Systeme digitalisieren wir? | Welche Daten sammeln, pflegen und nutzen wir? | Wo und wie setzen wir KI ein, mit welchen Regeln? |
| Ergebnis | Systemlandkarte, Digitalisierungsprojekte | Datenmodell, Zuständigkeiten, Qualität | Priorisierte Anwendungsfälle, Richtlinie, Roadmap |
| Abhängigkeit | Grundlage für beide anderen | Voraussetzung für KI mit Systemanbindung | Baut auf beiden auf, kann aber früh starten |
Sie müssen nicht warten, bis Digital- und Datenstrategie fertig sind. KI-Assistenten und Regeln funktionieren sofort. Für Automatisierung mit Systemanbindung brauchen Sie aber geordnete Daten.
In kleinen Unternehmen gehören alle drei oft in ein einziges Dokument. Wichtig ist nur, dass die KI-Strategie nicht losgelöst von den Systemen entsteht, in denen die Arbeit tatsächlich passiert.
Die 6 Bausteine einer KI-Strategie
Eine tragfähige KI-Strategie beantwortet sechs Fragen. Fehlt eine davon, merken Sie es spätestens beim ersten Piloten.
- Ziele: Was soll KI verbessern? Zeit, Qualität, Kosten, Umsatz oder Entlastung des Teams. Mit Kennzahl und Zielwert.
- Anwendungsfälle: Welche konkreten Aufgaben übernimmt oder unterstützt KI, und in welcher Reihenfolge?
- Daten und Systeme: Wo liegen die Daten, die die KI braucht? Lassen sich die Tools an CRM, ERP, Ablage und E-Mail anbinden?
- Regeln und Recht: Welche Tools sind erlaubt, welche Daten dürfen hinein, wer entscheidet? Das regelt eine KI-Richtlinie, dazu kommen DSGVO und AI Act.
- Menschen und Kompetenzen: Wer braucht welche Schulung, wer ist verantwortlich, wie wird das Team beteiligt?
- Roadmap und Messung: Was passiert in welchem Quartal, und woran erkennen Sie Erfolg?
Ein Punkt, den ich bei jedem Kunden gleich setze: Ein neues Tool muss DSGVO-konform sein und sich in das Gesamtsystem einfügen. Ein Werkzeug, das nur nebenher läuft, wird zur nächsten Insel und nach drei Monaten nicht mehr geöffnet.
In 6 Schritten eine KI-Strategie entwickeln
So gehe ich mit mittelständischen Unternehmen vor. Für einen Betrieb mit 20 bis 200 Beschäftigten dauert das je nach Verfügbarkeit vier bis acht Wochen.
Bestandsaufnahme: Wo steht Ihr Unternehmen?
Welche KI-Tools laufen schon, offiziell und inoffiziell? Welche Systeme und Daten gibt es? Eine anonyme Kurzumfrage im Team zeigt mehr als jede Vermutung.
Ziele festlegen
Drei Ziele mit Kennzahl reichen, zum Beispiel: Angebotserstellung von zwei Stunden auf 30 Minuten, Antwortzeit im Service halbieren, Einarbeitung neuer Kolleginnen um eine Woche verkürzen.
Anwendungsfälle sammeln, mit dem Team
Fragen Sie die Menschen, die die Arbeit machen: Was kostet Sie jede Woche Zeit, wiederholt sich und folgt klaren Regeln? So entstehen 15 bis 30 Ideen, und das Team ist von Anfang an dabei.
Bewerten und priorisieren
Jeder Anwendungsfall wird nach Nutzen und Machbarkeit bewertet: Zeitersparnis, Datenlage, Integrationsaufwand, Risiko. Daraus entsteht die Ampel unten.
Regeln und Befähigung klären
Freigegebene Tools, Daten-Ampel, Verantwortliche und eine Schulung für alle, die KI nutzen. Das ist auch die Grundlage für die Pflicht zur KI-Kompetenz.
Roadmap und Kennzahlen festlegen
Welche Piloten starten wann, wer ist verantwortlich, woran messen Sie Erfolg? Spätestens nach sechs Monaten wird die Roadmap überprüft.
Ziele, die man messen kann
Viele KI-Strategien scheitern schon am ersten Baustein, weil die Ziele zu vage sind. Ein Ziel ist dann brauchbar, wenn Sie in zwölf Monaten eindeutig sagen können, ob es erreicht ist.
| Zu vage | Messbar |
|---|---|
| „Wir wollen KI nutzen.“ | „80 % der Büroarbeitsplätze nutzen bis Q2 den freigegebenen KI-Assistenten mindestens einmal pro Woche.“ |
| „Effizienter werden.“ | „Die Zeit für ein Standardangebot sinkt von 90 auf 45 Minuten.“ |
| „Besserer Kundenservice.“ | „Erste Antwort auf E-Mail-Anfragen innerhalb von 4 statt 24 Stunden.“ |
| „Das Team entlasten.“ | „Zwei Stunden pro Woche und Person weniger für Protokolle und Berichte, gemessen per Kurzumfrage.“ |
Drei solche Ziele reichen. Mehr verwässern den Fokus.
Anwendungsfälle mit dem Team sammeln
Die besten Ideen für KI kommen selten aus der Geschäftsführung, sondern von den Menschen, die die Arbeit täglich machen. So läuft die Sammlung in meinen Projekten ab:
- Woche 1Kurzumfrage
Fünf Fragen an alle: Welche Aufgaben kosten Zeit, wiederholen sich, nerven?
- Woche 2Workshop je Bereich
Zwei Stunden, Ideen sammeln, typische Abläufe aufzeichnen.
- Woche 3Bewerten
Punktesystem nach Nutzen, Aufwand, Daten und Risiko.
- Woche 4Entscheiden
Geschäftsführung wählt zwei bis drei Piloten, Verantwortliche werden benannt.
Die Kurzumfrage hat einen Nebeneffekt, der fast immer überrascht: Sie zeigt, wie viele Beschäftigte KI schon nutzen, oft mit privaten Konten. Das ist der beste Ausgangspunkt für Regeln, weil er zeigt, dass der Bedarf echt ist.
Anwendungsfälle mit einem Punktesystem bewerten
Damit nicht die lauteste Stimme entscheidet, bewerte ich jede Idee nach denselben fünf Kriterien mit je 1 bis 5 Punkten:
| Kriterium | Frage | Gewicht |
|---|---|---|
| Nutzen | Wie viel Zeit, Geld oder Qualität bringt es? | doppelt |
| Häufigkeit | Wie oft fällt die Aufgabe an? | einfach |
| Datenlage | Liegen die nötigen Daten sauber und zugänglich vor? | einfach |
| Aufwand | Wie aufwendig ist die Umsetzung? (5 = sehr wenig) | einfach |
| Risiko | Was passiert bei Fehlern? (5 = kaum Folgen) | einfach |
Ein Beispiel aus einem typischen Handelsunternehmen: „Antwortentwürfe für Kundenanfragen per E-Mail“ bekommt bei Nutzen 4 (doppelt: 8), Häufigkeit 5, Datenlage 4, Aufwand 4 und Risiko 4, zusammen 25 von 30 Punkten. „Automatische Preisgestaltung im Onlineshop“ klingt spannender, erreicht aber wegen schwacher Datenlage und hohem Risiko nur 16. Das Beispiel ist typisch, nicht aus einem einzelnen Kundenprojekt.
Kostenloser Download
KI-Strategie auf drei Seiten: Vorlage zum Ausfüllen
Ziele, Anwendungsfälle, Daten, Regeln, Kompetenzen und Roadmap auf drei Seiten, mit Prüffragen vor der Verabschiedung. Word-Datei für Unternehmen mit 10 bis 250 Beschäftigten.
Danke! Hier ist Ihr Download.
Der Download startet über den Button. Wenn Sie ein Anliegen ausgewählt haben, melde ich mich persönlich bei Ihnen, sonst hören Sie nichts weiter von mir.
Strategie-Vorlage herunterladenAnwendungsfälle nach Nutzen priorisieren
Der häufigste Fehler in Schritt 4: Das spannendste Projekt gewinnt. Besser ist eine nüchterne Bewertung nach Nutzen und Machbarkeit. Ich sortiere die Ideen danach in drei Gruppen:
- Angebote und E-Mails mit KI vorformulieren
- Protokolle und Gesprächsnotizen zusammenfassen
- Interne Wissenssuche über eigene Dokumente
- Eingangsrechnungen automatisch erfassen
- Kundenanfragen vorsortieren und beantworten
- Leads im CRM bewerten
- Personalentscheidungen durch KI
- Vollautomatische Kundenkommunikation ohne Freigabe
- Eigenes KI-Modell trainieren ohne Datenbasis
Beispielhafte Einordnung. Die konkrete Bewertung hängt von Ihren Daten, Systemen und Risiken ab.
Für die Bewertung reichen vier Kriterien mit je 1 bis 5 Punkten: Zeitersparnis pro Monat, Qualität der vorhandenen Daten, Aufwand für die Anbindung an bestehende Systeme und rechtliches Risiko. Wer das ehrlich ausfüllt, landet fast immer bei Textarbeit und Dokumenten als erstem Schritt, und das ist gut so. Wie Sie Abläufe mit KI-Agenten weiter automatisieren, beschreibe ich im Artikel KI-Automatisierung.
Beispiel einer KI-Roadmap für 12 Monate
So sieht eine realistische Roadmap für ein mittelständisches Unternehmen aus. Die Zeiträume sind Richtwerte, keine Pflicht.
- Start: Bestandsaufnahme und Ziele
Kurzumfrage, Systemlandkarte, drei Ziele mit Kennzahl.
- Regeln und erste Schulung
KI-Richtlinie, freigegebenes Tool mit Firmenkonten, Einführung für alle Nutzerinnen und Nutzer.
- Quick Wins im Alltag
Textarbeit, Zusammenfassungen, Wissenssuche. Erste Zeitersparnis messen.
- Pilot mit Systemanbindung
Ein Ablauf wird mit KI automatisiert, zum Beispiel Anfragen oder Belege, angebunden an CRM oder ERP.
- Auswerten und ausrollen
Was funktioniert, geht in den Regelbetrieb, mit Verantwortlichen und Wartung.
- Review und nächste Stufe
Kennzahlen prüfen, Richtlinie aktualisieren, die nächsten zwei Anwendungsfälle starten.
Dass ein Pilot nicht Monate dauern muss, wenn die Schnittstellen stimmen, habe ich 2016 beim FinTech-Hackathon in Stuttgart erlebt. Unser Team hat dort die Schadenabwicklung der Württembergischen in vier Stunden mit KI automatisiert, über deren eigene Schnittstellen, und den ersten Platz gewonnen. Im Mittelstand ist die Datenlage oft schwieriger. Deshalb steht die Systemanbindung in der Roadmap bewusst erst ab Monat 4.
Wer über KI entscheidet
Eine KI-Strategie braucht Zuständigkeiten, sonst bleibt sie ein Dokument. Im Mittelstand haben sich fünf Rollen bewährt, die oft von wenigen Personen übernommen werden:
- Verantwortliche Person aus der Geschäftsführung: setzt Prioritäten, gibt Budget frei, entscheidet bei Konflikten.
- KI-Koordination: hält die Fäden zusammen, pflegt die Liste der Anwendungsfälle und der freigegebenen Werkzeuge. In kleinen Betrieben eine Teilaufgabe, keine Stelle.
- KI-Botschafter je Bereich: probieren aus, helfen Kollegen, sammeln Ideen und Probleme.
- Datenschutz und IT: prüfen neue Werkzeuge, bevor sie freigegeben werden.
- Betriebsrat, falls vorhanden: wird bei Werkzeugen, die Leistung oder Verhalten erfassen können, beteiligt.
Ein fester Termin alle vier bis sechs Wochen, an dem diese Runde auf die Roadmap schaut, reicht meist aus. Wichtig ist, dass neue Werkzeuge nicht an dieser Runde vorbei eingeführt werden.
5 typische Fehler bei der KI-Strategie
Mit dem Tool statt mit dem Problem beginnen
„Wir brauchen Copilot“ ist kein Ziel. Erst die Aufgabe, dann das Werkzeug. Sonst kaufen Sie Lizenzen für ein Problem, das Sie nicht haben.
Zu groß starten
Das Unternehmensweite KI-Programm mit zwölf Teilprojekten scheitert an der Kapazität. Zwei Piloten, die funktionieren, überzeugen mehr als zwölf Konzepte. Gartner rechnet damit, dass bis Ende 2027 über 40 % der Projekte mit KI-Agenten wegen Kosten, unklarem Nutzen oder fehlender Risikokontrolle eingestellt werden.
Das Team übergehen
KI scheitert im Mittelstand selten an der Technik, sondern daran, dass die Menschen nicht beteiligt sind. Wer die Anwendungsfälle mit dem Team sammelt, bekommt bessere Ideen und weniger Widerstand.
Ohne Messung arbeiten
Ohne Ausgangswert gibt es keinen Erfolg. Messen Sie vor dem Piloten, wie lange ein Vorgang dauert, und danach noch einmal.
Insellösungen bauen
Ein KI-Tool, das Daten per Kopieren und Einfügen bekommt, spart am Anfang Zeit und erzeugt später neue Arbeit. Planen Sie die Anbindung an Ihre Systeme von Anfang an mit.
Wie kompakt darf eine KI-Strategie im kleinen Unternehmen sein?
Ein Betrieb mit 15 Beschäftigten braucht kein 40-seitiges Dokument. Diese Gliederung reicht:
| Abschnitt | Inhalt | Umfang |
|---|---|---|
| Ziele | Drei Ziele mit Kennzahl und Zielwert | ½ Seite |
| Anwendungsfälle | Die drei wichtigsten, priorisiert, mit Verantwortlichen | ½ Seite |
| Regeln | Freigegebene Tools, Daten-Ampel, Ansprechperson | 1 Seite |
| Schulung | Wer, was, bis wann | ¼ Seite |
| Roadmap | Vier Quartale, je ein Meilenstein | ½ Seite |
Größere Unternehmen, die KI in vielen Bereichen einsetzen, können sich an der Norm ISO/IEC 42001 orientieren. Sie beschreibt ein Managementsystem für KI und lässt sich mit ISO 9001 oder ISO/IEC 27001 verbinden. Für die meisten kleinen und mittleren Betriebe ist eine Zertifizierung aber nicht nötig.
Was eine KI-Strategie in der Praxis bringt
Bei der Memberspot GmbH, einer Plattform für Online-Kurse und Mitgliederbereiche, habe ich von Ende 2022 bis Frühjahr 2024 die Marketingprozesse neu aufgestellt und dabei KI-Tools eingebunden sowie das Team geschult. Laut Referenzschreiben der Geschäftsführung sank die Bearbeitungszeit für Routineaufgaben durch die KI-Integration um 70 %. Der Hebel war nicht ein besonderes Tool, sondern dass klar war, welche Aufgaben KI übernimmt und wie sie in die Abläufe passt.
Die Strategie lebendig halten
KI entwickelt sich schneller als jede andere Technologie, mit der Mittelständler bisher zu tun hatten. Eine Strategie, die im Januar beschlossen und im Dezember wieder aufgeschlagen wird, ist bis dahin veraltet. Drei Gewohnheiten halten sie aktuell:
- Quartalsrückblick: Was haben die Piloten gebracht? Welche Anwendungsfälle rücken nach oben, welche fallen weg?
- Werkzeugliste pflegen: Neue Funktionen in vorhandener Software prüfen, bevor neue Werkzeuge gekauft werden.
- Richtlinie jährlich prüfen: Rechtliche Änderungen, etwa durch die KI-Verordnung, und neue Erfahrungen einarbeiten.
So wird aus einem einmaligen Projekt ein Teil der normalen Unternehmensführung.
Kosten und Förderung der Strategieentwicklung
Eine KI-Strategie entsteht in Workshops und Analysen, also in Beratungszeit. Genau diese fördert der Bund über das Programm INQA-Coaching mit 80 % für bis zu 12 Beratungstage. In meinem Programm gehören KI-Potenzialanalyse, priorisierte Use-Case-Roadmap, KI-Nutzungsrichtlinie und eine 12-Monats-Roadmap zu den Ergebnissen. Ihr Eigenanteil liegt bei 2.880 € netto. Ob Ihr Unternehmen infrage kommt, zeigt der Förder-Check.
Fazit und Empfehlung
Eine KI-Strategie ist kein Selbstzweck. Sie sorgt dafür, dass Ihr Unternehmen die richtigen zwei, drei Anwendungsfälle zuerst umsetzt, dass das Team mitzieht und dass Sie nach einem Jahr sagen können, was es gebracht hat. Fangen Sie mit der Bestandsaufnahme an, beteiligen Sie die Fachabteilungen und messen Sie jeden Piloten.
KI-Beratung
Wo steht Ihr Unternehmen bei KI? Lassen Sie uns sprechen.
Strategie, Richtlinie, Schulung oder Automatisierung: Beschreiben Sie Ihr Anliegen in drei Schritten. Sie bekommen eine persönliche Rückmeldung von mir, kein automatisches Angebot.
Danke, Ihre Anfrage ist angekommen.
Ich sehe mir Ihre Angaben an und melde mich persönlich. Wenn es schneller gehen soll, buchen Sie direkt ein kostenloses Erstgespräch.
Erstgespräch buchenHäufige Fragen
Was ist eine KI-Strategie?
Eine KI-Strategie legt fest, welche Ziele ein Unternehmen mit künstlicher Intelligenz erreichen will, welche Anwendungsfälle es dafür in welcher Reihenfolge umsetzt und welche Regeln, Daten, Kompetenzen und Verantwortlichen dafür nötig sind. Sie endet mit einer Roadmap für 12 bis 18 Monate.
Wie lange dauert es, eine KI-Strategie zu entwickeln?
Für ein mittelständisches Unternehmen reichen meist vier bis acht Wochen mit einigen Workshops: Bestandsaufnahme, Ideensammlung mit dem Team, Bewertung, Roadmap. Wichtiger als Tempo ist, dass die Fachabteilungen beteiligt sind.
Was gehört in eine KI-Strategie?
Sechs Bausteine: Ziele, priorisierte Anwendungsfälle, Daten und Systeme, Regeln und Recht, Menschen und Kompetenzen sowie eine Roadmap mit Kennzahlen.
Braucht ein kleines Unternehmen eine KI-Strategie?
Ja, aber kompakt. Zwei bis drei Seiten reichen: drei Ziele, drei priorisierte Anwendungsfälle, eine Seite Regeln und ein Plan für die nächsten zwölf Monate.
Wird die Entwicklung einer KI-Strategie gefördert?
Ja. Über das Programm INQA-Coaching übernimmt der Bund 80 % der Beratungskosten für bis zu 12 Beratungstage, wenn Ihr Unternehmen weniger als 250 Beschäftigte hat und die übrigen Voraussetzungen erfüllt. Software und Lizenzen werden nicht gefördert.
Quellen
- Microsoft & LinkedIn: 2024 Work Trend Index · 08.05.2024
- Bitkom: Durchbruch bei Künstlicher Intelligenz (Presseinformation) · September 2025, 604 Unternehmen ab 20 Beschäftigten
- Gartner: Over 40 % of agentic AI projects will be canceled by end of 2027 · 25.06.2025
- ISO/IEC 42001:2023 – Artificial intelligence management system
- Statistisches Bundesamt: Unternehmen mit Nutzung von KI 2025
80 % der Beratung zahlt der Staat.
Über INQA-Coaching fördert der Bund 12 Beratungstage zur KI-Einführung mit 80 %. Ihr Eigenanteil: 2.880 € netto. Prüfen Sie in 60 Sekunden, ob Ihr Betrieb infrage kommt.
Weitere Artikel
KI im Unternehmen einführen: der Leitfaden für den Mittelstand
KI im Unternehmen: Stand im Mittelstand 2026, Arten von KI, Einsatz nach Abteilung, Reifegrad, Kosten, Förderung und ein 100-Tage-Plan für die Einführung.
KI in der Produktion: sechs Anwendungen, die sich im Mittelstand rechnen
KI in der Produktion und Fertigung: Sichtprüfung, Wartung, Planung, Wissenssicherung. Was im Mittelstand funktioniert, was es braucht und was 2027 gilt.
KI-Automatisierung im Mittelstand: Welche Prozesse sich lohnen und wie Sie starten
KI-Automatisierung erklärt: Unterschied zu Regeln und KI-Agenten, geeignete Prozesse, Beispielablauf, Werkzeuge, Wirtschaftlichkeit, Sicherheit und Einstieg.