KrambergAI GmbH · krambergai.comKI im Mittelstand 2026
KrambergAI LogoKrambergAI
Whitepaper2026
Praxisleitfaden für Entscheider

KI im Mittelstand
2026

Vom einzelnen KI-Werkzeug zum produktiven Betriebsmodell

Wie mittelständische Unternehmen tragfähige Anwendungsfälle auswählen, ihr Unternehmenswissen nutzbar machen und Künstliche Intelligenz sicher, wirtschaftlich und dauerhaft in ihre Abläufe einbinden.

Ausgabe2026 · Deutschland
StandJuli 2026
ZielgruppeGeschäftsführung, Bereichs- und IT-Leitung, Digitalisierungsverantwortliche
HerausgeberKrambergAI GmbH · krambergai.com
00   Management Summary

2026 beginnt die Phase der produktiven KI-Nutzung

Die Frage ist im Mittelstand nicht mehr, ob Unternehmen Künstliche Intelligenz einsetzen. Sie lautet, ob daraus belastbare Prozesse werden oder nur eine weitere Sammlung unverbundener Werkzeuge.

In den vergangenen Jahren haben viele Betriebe mit Chatbots, Textgeneratoren und einzelnen Assistenzfunktionen experimentiert. 2026 verschiebt sich der Schwerpunkt spürbar: KI wird mit dem eigenen Unternehmenswissen, mit Fachanwendungen und mit konkreten Arbeitsabläufen verbunden. Der Nutzen entsteht dabei nicht durch das Sprachmodell allein, sondern aus dem Zusammenspiel von einem klar umrissenen betrieblichen Problem, verlässlichen Daten, passenden Schnittstellen, eindeutigen Verantwortlichkeiten, menschlichen Kontrollpunkten und einem geregelten Betrieb.

Fünf Beobachtungen fassen die Ausgangslage zusammen.

1. Gute KI-Projekte beginnen bei einem Prozessproblem

„Wir möchten auch etwas mit KI machen“ ist kein tragfähiger Projektauftrag. Belastbare Vorhaben setzen an einem konkreten Engpass an: am hohen Aufwand in der Angebotsvorbereitung, an wiederkehrenden Rückfragen im Kundenservice, an lückenhaften Serviceberichten oder an einer technischen Dokumentation, die im Alltag kaum auffindbar ist.

2. Unternehmenswissen wird zum entscheidenden Produktionsfaktor

Ein leistungsfähiges Sprachmodell kennt weder die aktuelle Preisliste noch die freigegebene Arbeitsanweisung, die projektspezifische Vereinbarung oder den Wartungsstand einer Anlage. Erst eine kontrollierte Wissensbasis macht aus einer allgemeinen KI eine Assistenz, die zum eigenen Betrieb passt.

3. Die meisten Unternehmen brauchen keine vollständig autonome KI

Der wirtschaftlich sinnvolle Einstieg liegt fast immer bei vorbereitenden und unterstützenden Aufgaben: Informationen zusammentragen, Vorgänge einordnen, Texte vorformulieren, Dokumente prüfen, fehlende Angaben erkennen oder die nächsten Schritte vorbereiten.

4. Governance muss praktikabel sein

Ein mittelständisches Unternehmen benötigt kein hundertseitiges Regelwerk. Es benötigt aber ein KI-Verzeichnis, benannte Verantwortliche, klare Nutzungsregeln, saubere Berechtigungen, Kontrollpunkte, eine Protokollierung und ein Verfahren für Fehler und Sicherheitsvorfälle.

5. Der dauerhafte Betrieb ist wichtiger als die erste Vorführung

Eine beeindruckende Demonstration ist schnell erstellt. Schwieriger sind aktuelle Wissensquellen, stabile Schnittstellen, nachvollziehbare Antworten, Kostenkontrolle, Support und die Anpassung an veränderte Prozesse. Genau hier entscheidet sich, ob ein Pilot zum Werkzeug des Alltags wird.

Empfehlung an das Management Beginnen Sie mit einem klar begrenzten Prozess, einer definierten Nutzergruppe und einem messbaren Qualitätsziel. Skalieren Sie erst, wenn der Anwendungsfall im Arbeitsalltag zuverlässig funktioniert.
    Aufbau dieses Whitepapers

Von der Standortbestimmung bis zum Betrieb

Das Whitepaper führt in fünf Teilen von der Marktlage über die Auswahl geeigneter Anwendungsfälle und die technischen Grundlagen bis zu Governance, Wirtschaftlichkeit und dauerhaftem Betrieb.

AStandort und VeränderungWo der Mittelstand 2026 steht und was sich gegenüber der ersten KI-Welle verschoben hat.
BAuswahlWelche Form von KI ein Unternehmen benötigt und wie sich der richtige Anwendungsfall bewerten lässt.
CPraxisNutzenlandkarte und konkrete Anwendungsfälle für Industrie, Bau und Handwerk, Dienstleistung, Handel und Projektgeschäft.
DTechnik und WissenCompany Brain, Autonomiestufen von Agenten, Betriebsarchitektur sowie Daten und Integration.
ESteuerungGovernance und EU AI Act, Datenschutz und Sicherheit, Wirtschaftlichkeit, ein 100-Tage-Fahrplan, Betriebsmodell, Reifegrad und Entscheidungshilfe.

Lesehinweis

Kennzahlen, Tabellen, Checklisten und der Selbstcheck sind so aufbereitet, dass sie sich unmittelbar in eigenen Workshops, Vorlagen und Entscheidungsunterlagen weiterverwenden lassen. Die rechtlichen Angaben entsprechen dem recherchierten Stand vom Juli 2026; die laufende Konkretisierung des EU AI Act sollte vor einer verbindlichen Nutzung erneut geprüft werden.

01   Teil A · Standortbestimmung

Wo der deutsche Mittelstand 2026 steht

Die Nutzung steigt schnell – aber die Statistiken muss man richtig lesen. Unterschiedliche Quoten sind kein Widerspruch, sondern Folge unterschiedlicher Unternehmensgrößen, Definitionen und Erhebungszeiträume.

26 %
der Unternehmen ab 10 Beschäftigten nutzen KI (Destatis 2025)
41 %
der Unternehmen ab 20 Beschäftigten setzen KI ein (Bitkom 2026)
~780.000
mittelständische Betriebe mit KI-Einsatz (KfW)
72 %
nennen fehlendes Wissen als größtes Hemmnis (Destatis)

Das Statistische Bundesamt weist für 2025 aus, dass 26 Prozent der Unternehmen mit mindestens zehn Beschäftigten KI-Technologien nutzten. Die Spannbreite nach Größe ist erheblich: 23 Prozent bei 10 bis 49 Beschäftigten, 36 Prozent bei 50 bis 249 Beschäftigten und 57 Prozent bei Großunternehmen ab 250 Beschäftigten.

Eine Bitkom-Befragung vom Frühjahr 2026 kommt bei Unternehmen ab 20 Beschäftigten auf einen höheren Wert: 41 Prozent setzten KI bereits ein, weitere 48 Prozent planten oder diskutierten den Einsatz. Von den aktiven Nutzern berichteten 77 Prozent von einer verbesserten Wettbewerbsposition und 66 Prozent von geplanten weiteren Ausbauschritten. Die KfW betrachtet mit einem breiteren Mittelstandsbegriff auch sehr kleine Unternehmen; danach nutzten im Zeitraum 2022 bis 2024 rund 20 Prozent der mittelständischen Unternehmen KI – knapp 780.000 Betriebe.

Die abweichenden Zahlen erklären sich vor allem durch die Methodik: Destatis erfasst Unternehmen ab zehn Beschäftigten mit Auskunftspflicht, Bitkom befragt telefonisch ab 20 Beschäftigten, die KfW schließt auch Kleinstunternehmen ein. Drei Erkenntnisse lassen sich dennoch eindeutig ableiten: Die Nutzung nimmt rasch zu; größere und stärker digitalisierte Unternehmen sind deutlich weiter; und die größte Lücke besteht nicht beim Zugang zu einem Modell, sondern bei Wissen, Daten, Integration und Organisation.

Was Unternehmen wirklich ausbremst

Von den Unternehmen, die KI erwogen, aber nicht eingeführt haben, nennt das Statistische Bundesamt die folgenden Hemmnisse. Bemerkenswert ist, dass grundsätzliche Ablehnung kaum eine Rolle spielt.

HemmnisAnteil der Unternehmen
Fehlendes Wissen72 %
Unklarheit über rechtliche Folgen62 %
Datenschutz- und Privatsphärebedenken60 %
Inkompatibilität mit vorhandenen Systemen45 %
Unzureichende Datenverfügbarkeit oder Datenqualität44 %
Zu hohe Kosten32 %
Ethische Überlegungen23 %

Die Botschaft der Zahlen ist eindeutig: Es fehlt seltener der Wille als eine nachvollziehbare Vorgehensweise, klare Zuständigkeiten und die Fähigkeit, einen Anwendungsfall von der Idee bis in den geregelten Betrieb zu bringen. Genau daran setzt dieses Whitepaper an.

02   Teil A · Veränderung

Was sich 2026 verändert hat

Aus einzelnen Werkzeugen werden Bestandteile der Betriebsorganisation. Die erste Welle generativer KI war auf persönliche Produktivität ausgerichtet – Texte formulieren, zusammenfassen, Ideen entwickeln. 2026 treten sechs Entwicklungen in den Vordergrund.

1. KI wird prozessbezogen

An die Stelle eines allgemeinen Chatfensters treten Lösungen für definierte Aufgaben: Kundenanfragen erfassen und vorsortieren, Angebote vorbereiten, Serviceberichte vervollständigen, Ausschreibungen auswerten, Reklamationen einordnen, Projektunterlagen zusammenstellen oder Aufträge auf fehlende Angaben prüfen.

2. Unternehmenswissen wird direkt angebunden

Dokumente aus Dokumentenmanagement, Dateiablagen, Wiki, ERP, CRM oder Ticketsystem werden kontrolliert nutzbar gemacht. Antworten lassen sich damit auf freigegebene Quellen stützen und mit Fundstellen versehen.

3. Sprache, Bilder und Dokumente wachsen zusammen

Moderne Systeme verarbeiten nicht nur Text, sondern auch Gesprächsinhalte, Fotos, Zeichnungen, Formulare und gescannte Dokumente gemeinsam. Das eröffnet neue Möglichkeiten bei Baustellendokumentation, Qualitätsprüfung, Wartung und Schadenserfassung.

4. KI kann Werkzeuge und Systeme bedienen

Unter definierten Bedingungen können KI-Agenten Informationen abrufen, Datensätze anlegen, E-Mails vorbereiten, Termine vorschlagen oder Workflows auslösen. Der Nutzen steigt – und mit ihm das Risiko fehlerhafter oder nicht autorisierter Aktionen.

5. Lokale und hybride Modelle werden praktikabler

Für klar begrenzte Aufgaben können kleinere Sprachmodelle lokal oder in einer privaten Infrastruktur laufen, während komplexe Analysen weiterhin über leistungsfähigere Cloudmodelle erfolgen. Die Architekturfrage lautet damit nicht mehr allein „Cloud oder lokal“.

6. Regulierung wird Teil des Betriebs

KI-Kompetenz, Transparenz, Risikobewertung, Dokumentation und menschliche Kontrolle sind nicht länger freiwillige Qualitätsmerkmale. Je nach Anwendungsfall ergeben sich konkrete Anforderungen aus dem EU AI Act, der DSGVO, dem Arbeitsrecht, branchenspezifischen Vorschriften und bestehenden Sicherheitsstandards. Die Aufsicht wird zudem konkret: In Deutschland ist die Bundesnetzagentur als zentrale Marktüberwachungs- und Koordinierungsstelle vorgesehen.

Die zentrale Verschiebung Das Sprachmodell wird austauschbarer. Unternehmenswissen, Prozesse, Integration und Betriebsfähigkeit werden zum eigentlichen Wettbewerbsvorteil.
03   Teil B · Auswahl

Welche Form von KI braucht Ihr Unternehmen?

„KI“ fasst sehr unterschiedliche Lösungen zusammen. Für Investitionsentscheidungen ist eine klare Unterscheidung nötig – nicht jeder Anwendungsfall braucht einen Agenten.

LösungsformTypische AufgabeBeispielWesentliche Grenze
Persönliche KI-AssistenzFormulieren, analysieren, zusammenfassenEntwurf einer KundenmailKennt interne Zusammenhänge nur begrenzt
Wissensassistenz / Company BrainFragen auf Basis interner Quellen beantwortenSuche in Arbeitsanweisungen und ProjektaktenQualität hängt von Quellen und Rechten ab
ProzessassistenzEinen definierten Arbeitsschritt vorbereitenReklamation einordnen und Antwort entwerfenBenötigt Regeln und klare Übergaben
KI-Agent / KI-MitarbeiterMehrere Schritte und Systeme koordinierenAnfrage erfassen, CRM prüfen, Rückruf vorbereitenBenötigt eng begrenzte Rechte und Kontrolle
Analytische KIPrognosen und MustererkennungAbsatzprognose, AnomalieerkennungBenötigt geeignete strukturierte Daten
KI in Maschinen / ProduktenPhysische Prozesse beeinflussenOptische Prüfung, autonome SteuerungHöhere Anforderungen an Sicherheit und Validierung

Der Begriff „KI-Mitarbeiter“

Ein KI-Mitarbeiter ist kein Beschäftigter im arbeitsrechtlichen Sinn. Gemeint ist eine digitale Lösung, die für eine definierte betriebliche Rolle mehrere Aufgaben bündelt. Ein KI-Mitarbeiter im Service könnte etwa eine Anfrage entgegennehmen, Kunde und Anlage identifizieren, fehlende Angaben abfragen, die Dringlichkeit einordnen, vorhandene Serviceinformationen suchen, einen Vorgang im Ticketsystem vorbereiten und die zuständige Person informieren. Der Nutzen liegt nicht in der menschlichen Bezeichnung, sondern in der rollenbezogenen Bündelung von Fähigkeiten.

Mit einer Assistenz beginnen, wenn …

  • die Aufgabe häufig vorkommt,
  • sie klar beschrieben werden kann,
  • ein Mensch das Ergebnis schnell prüfen kann,
  • Fehler korrigierbar sind,
  • die benötigten Informationen verfügbar sind.

Nicht mit voller Autonomie beginnen, wenn …

  • rechtlich verbindliche Entscheidungen fallen,
  • Zahlungen oder Vertragszusagen ausgelöst werden,
  • Menschen bewertet werden,
  • Sicherheitsrisiken entstehen,
  • Fehler erst spät erkannt werden,
  • die Verantwortlichkeit ungeklärt ist.
04   Teil B · Auswahl

Den richtigen Anwendungsfall auswählen

Nicht der spektakulärste Anwendungsfall ist der beste Einstieg. Ein geeigneter Pilot verbindet einen spürbaren betrieblichen Nutzen mit beherrschbarer Komplexität. Bewerten Sie jeden Kandidaten auf einer Skala von 0 bis 5 in drei Dimensionen.

A · Geschäftlicher Nutzen

Wie häufig tritt der Vorgang auf, wie viel Arbeitszeit bindet er, entstehen Wartezeiten oder Rückstände, beeinflusst er Umsatz, Qualität oder Kundenzufriedenheit, und ist qualifiziertes Personal schwer verfügbar?

B · Umsetzbarkeit

Ist der Prozess dokumentiert, sind die benötigten Daten digital verfügbar, gibt es einen fachlichen Verantwortlichen, bestehen Schnittstellen oder Exportmöglichkeiten, und lässt sich die Nutzergruppe begrenzen?

C · Beherrschbarkeit des Risikos

Kann ein Mensch das Ergebnis prüfen, sind Fehler reversibel, werden keine besonders sensiblen Daten benötigt, trifft die KI keine Entscheidung über Personen, und lässt sich die Funktion zunächst ohne Schreibzugriff testen?

KategorieEmpfehlung
Hoher Nutzen, hohe Umsetzbarkeit, geringes RisikoSofort als Pilot prüfen
Hoher Nutzen, mittlere UmsetzbarkeitDaten- oder Prozessvorbereitung starten
Hoher Nutzen, hohes RisikoGovernance- und Kontrollkonzept vorziehen
Niedriger Nutzen, hohe UmsetzbarkeitNur als Lern- oder Schulungsfall verwenden
Niedriger Nutzen, geringe UmsetzbarkeitNicht priorisieren

Gute Einstiegsfälle

  • umfangreiche Dokumente zusammenfassen und strukturieren,
  • in freigegebenen internen Wissensquellen suchen,
  • standardisierte Korrespondenz vorbereiten,
  • fehlende Angaben erkennen,
  • eingehende Vorgänge klassifizieren,
  • unstrukturierte Informationen in strukturierte Felder überführen,
  • Gesprächs- und Projektübergaben vorbereiten.

Schlechte Einstiegsfälle

  • vollständig autonome Personalentscheidungen,
  • ungeprüfte Vertrags- oder Preiszusagen,
  • selbstständige Änderung von Produktionsparametern,
  • Freigabe sicherheitskritischer Arbeiten,
  • offene Agenten mit vollem Zugriff auf E-Mail, Dateien und ERP,
  • Projekte ohne fachlichen Prozessverantwortlichen.
05   Teil C · Praxis

Wo KI im Unternehmen Nutzen stiftet

Die größten Potenziale liegen häufig zwischen den bestehenden Systemen. Viele Prozesse scheitern nicht an fehlender Fachsoftware, sondern an Medienbrüchen, unvollständigen Angaben und der manuellen Übertragung zwischen E-Mail, Telefon, Dateiablage, CRM, ERP und Fachanwendung.

Geschäftsführung und Controlling

Berichte und Kennzahlen kommentieren, Abweichungen erläutern, Entscheidungsunterlagen vorbereiten, Risiken aus Projekt- oder Vertriebsdaten zusammenfassen und Sitzungsprotokolle in konkrete Maßnahmen überführen.

Vertrieb

Kundentermine vorbereiten, CRM-Verläufe zusammenfassen, Anfragen qualifizieren, Angebotsbausteine auswählen, Ausschreibungen und Leistungsverzeichnisse auswerten sowie Nachfassaktionen vorbereiten.

Kundenservice

Anliegen erkennen und kategorisieren, fehlende Angaben abfragen, Antwortentwürfe erstellen, passende Wissensartikel und Servicehinweise finden, Dringlichkeit und Zuständigkeit vorschlagen und Tickets dokumentieren.

Produktion und Technik

Arbeitsanweisungen zugänglich machen, Schicht- und Störungsberichte strukturieren, Fehlerbilder klassifizieren, Wartungsinformationen suchen, Qualitätsabweichungen dokumentieren und technische Dokumentation vergleichen.

Projektgeschäft

Projektakten zusammenfassen, offene Punkte und Entscheidungen extrahieren, Übergaben vorbereiten, Risiken und Abhängigkeiten erkennen, Protokolle mit Terminplan und Aufgabenliste abgleichen sowie Nachträge und Abweichungen dokumentieren.

Verwaltung

Rechnungseingang vorprüfen, Dokumente klassifizieren, Stammdaten auf Unvollständigkeit prüfen, Richtlinien und Prozessbeschreibungen zugänglich machen und standardisierte Schreiben vorbereiten.

Personalbereich

Schulungsunterlagen erstellen, interne Richtlinien erläutern, Stellenbeschreibungen vorbereiten und Onboarding-Informationen bereitstellen.

Besondere Sorgfalt im Personalkontext

Bei Auswahl, Bewertung, Leistungsüberwachung oder Beförderung von Beschäftigten gelten deutlich strengere Anforderungen. Solche Systeme können als Hochrisiko-KI im Sinne des EU AI Act eingestuft sein. Zusätzlich ist in vielen Fällen die betriebliche Mitbestimmung zu beachten: Werden Verhalten oder Leistung von Beschäftigten überwachbar, greifen die Beteiligungsrechte des Betriebsrats nach dem Betriebsverfassungsgesetz.

06   Teil C · Praxisfeld Industrie

Industrie und Fertigung

In Industrieunternehmen liegt viel technisches Wissen vor – verteilt über Zeichnungen, Stücklisten, Prüfberichte, E-Mails, Schichtbücher, ERP-Daten und persönliche Erfahrung. KI muss sich in Auftragsabwicklung, Qualität und Instandhaltung bewähren.

Technische Auftragsklärung

Die KI prüft Anfragen auf fehlende Zeichnungen, Materialangaben, Toleranzen, Liefertermine oder Zertifikate. Sie erstellt keine technische Freigabe, sondern bereitet Rückfragen vor.

Qualitäts- und Reklamationsmanagement

Reklamationen werden nach Produktgruppe, Fehlerbild, Charge und Dringlichkeit geordnet. Die Lösung sucht ähnliche Fälle und stellt Informationen für eine 8D-Bearbeitung oder Ursachenanalyse zusammen.

Schicht- und Störungsberichte

Freitext, Spracheingaben oder digitalisierte Notizen werden in eine einheitliche Struktur überführt: Anlage, Zeitpunkt, Störungsbild, Maßnahme, Stillstandszeit, offener Punkt und verantwortliche Stelle.

Instandhaltung und Prüfaufgaben

Techniker suchen nach bekannten Fehlerbildern, Ersatzteilen, Wartungsschritten und früheren Einsätzen. Die Antwort muss erkennen lassen, aus welcher Dokumentation und welchem Versionsstand sie stammt. Prüfberichte werden auf fehlende Felder oder unplausible Angaben geprüft – die fachliche Freigabe bleibt beim zuständigen Mitarbeiter.

Modellfall · Maschinenbauzulieferer, 180 Mitarbeiter

Ausgangslage: Technische Anfragen laufen über mehrere Postfächer, Wissen steckt in Datenblättern, alten Angeboten und persönlichen Ablagen, zwischen Vertrieb und Konstruktion entstehen wiederkehrende Rückfragen.

Pilot: Ein interner Auftragsklärungsassistent greift lesend auf freigegebene Produktunterlagen, Vorlagen und Referenzaufträge zu und erzeugt eine Zusammenfassung der Anfrage, eine Liste fehlender Informationen, Hinweise auf ähnliche Aufträge sowie einen Entwurf für technische Rückfragen.

Kontrollpunkt: Der Vertriebsingenieur prüft und versendet die Rückfrage. Das System sagt weder Preis noch Liefertermin verbindlich zu.

Messgrößen: Bearbeitungszeit je Anfrage, Zahl interner Rückfrageschleifen, Anteil vollständig dokumentierter Vorgänge, Fehlerquote in der Angebotsvorbereitung, Nutzerakzeptanz.

07   Teil C · Praxisfeld Bau und Handwerk

Bau, Handwerk und Montage

Viele Informationen entstehen unterwegs: telefonisch, per Messenger, auf der Baustelle, in Aufmaßen, Fotos, Leistungsverzeichnissen und Serviceberichten. KI muss den Betrieb entlasten, nicht zusätzliche Büroarbeit erzeugen. Das Potenzial liegt in der Überführung unstrukturierter Informationen in belastbare Vorgänge.

KI-Telefonie und Anrufannahme

Außerhalb der Bürozeiten oder bei hoher Auslastung kann eine KI-gestützte Telefonlösung den Anrufer begrüßen, das Anliegen erfassen, Objekt oder Anlage zuordnen, Erreichbarkeit aufnehmen, die Dringlichkeit erkennen und einen strukturierten Rückrufvorgang erzeugen. Notfälle, Gefahrensituationen und sicherheitsrelevante Störungen brauchen eindeutige Eskalationsregeln.

Angebotsvorbereitung und Ausschreibungen

Aus E-Mail, Gesprächsnotiz, Aufmaß und Fotos entsteht eine strukturierte Zusammenfassung; fehlende Angaben werden sichtbar, bevor der Vorgang beim Kalkulator oder Meister landet. Bei Leistungsverzeichnissen kann die KI Positionen zusammenfassen, Anforderungen markieren, Fristen extrahieren und Auffälligkeiten kennzeichnen. Die kaufmännische und technische Prüfung wird unterstützt, nicht ersetzt.

Baustellendokumentation und Serviceberichte

Sprachaufnahmen und Fotos werden einem Auftrag zugeordnet und in ein Tagesprotokoll überführt; Abweichungen, Behinderungen, Zusatzleistungen und offene Entscheidungen lassen sich früh erfassen. Der Monteur dokumentiert per Sprache; die KI strukturiert Ausgangssituation, ausgeführte Arbeiten, Material, Messwerte, Empfehlungen und offene Folgearbeiten.

Modellfall · SHK- und Elektrobetrieb, 45 Mitarbeiter

Ausgangslage: Hohe Telefonbelastung, Rückrufzettel ohne vollständige Objektangaben, verzögerte Angebotserstellung, Serviceberichte in stark schwankender Qualität.

Lösung: Eine digitale Serviceassistenz verbindet Telefonannahme, E-Mail-Erfassung und Servicebericht; alle Vorgänge landen strukturiert in einer zentralen Arbeitsliste.

Kontrollpunkte: Termine werden vorgeschlagen, nicht verbindlich bestätigt; Preise werden nicht automatisch zugesagt; Notfälle folgen einem freigegebenen Eskalationsschema; der Monteur bestätigt den fertigen Bericht.

Erwartbarer Nutzen: weniger Rückfragen, besser vorbereitete Einsätze, schnellere Weitergabe an Disposition und Kalkulation, vollständigere Dokumentation und bessere Nachvollziehbarkeit bei Gewährleistungsfällen.

08   Teil C · Praxisfeld Dienstleistung und Handel

Technische Dienstleistung, Handel und Projektgeschäft

Diese Unternehmen arbeiten meist mit einer Kombination aus CRM, ERP, Ticketsystem, Projektablage und E-Mail. Die eigentliche Schwierigkeit liegt in den Übergängen – vom Vertrieb in die Abwicklung, vom Projekt in den Service, vom Außendienst ins Backoffice, von der Anfrage in ein belastbares Angebot.

Technische Dienstleister

Serviceanfragen nach SLA, Kunde, Produkt und Dringlichkeit klassifizieren, Wartungshistorien und frühere Störungen zusammenfassen, Ersatzteilinformationen bereitstellen, Einsatzberichte auf Vollständigkeit prüfen, wiederkehrende Fehlerbilder sichtbar machen und Kundeninformationen für den Techniker vorbereiten.

B2B-Handel

Produktanfragen mit Katalog- und Stammdaten abgleichen, Alternativprodukte vorschlagen, technische Datenblätter vergleichen, Anfragen nach Potenzial und Dringlichkeit vorsortieren, Vertriebsaktivitäten auf CRM-Basis vorbereiten sowie Rücksendungen und Reklamationen strukturieren.

Projektgeschäft

Projektübergaben standardisieren, Protokolle und Aufgabenlisten abgleichen, offene Entscheidungen und Abhängigkeiten identifizieren, Projektrisiken zusammenfassen, Abweichungen vom vereinbarten Leistungsumfang markieren und Statusberichte vorbereiten.

Modellfall · Technischer Serviceanbieter, 90 Mitarbeiter

Ausgangslage: Techniker brauchen oft Informationen aus Handbüchern, alten Tickets und internen Erfahrungsberichten. Die Suche dauert lange und hängt stark von einzelnen erfahrenen Mitarbeitern ab.

Lösung: Ein Company Brain stellt freigegebene Produktunterlagen, Serviceanweisungen und abgeschlossene Tickets über eine gemeinsame Such- und Dialogoberfläche bereit.

Qualitätsanforderungen: Anzeige der verwendeten Quellen, Berücksichtigung von Produktversion und Baujahr, Trennung zwischen Herstellerdokumentation und Erfahrungswert, Warnhinweis bei widersprüchlichen Angaben und keine Ausgabe sicherheitsrelevanter Anweisungen ohne freigegebene Quelle.

Betrieblicher Effekt: Das Erfahrungswissen wird nicht ersetzt, sondern schneller auffindbar, besser übertragbar und weniger abhängig von der Erreichbarkeit Einzelner.

09   Teil D · Technik und Wissen

Das Company Brain als Wissensgrundlage

Ein Sprachmodell ist noch kein Unternehmensgedächtnis. Ein Company Brain verbindet freigegebenes Unternehmenswissen mit einer kontrollierten KI-Oberfläche. Es ersetzt kein Dokumentenmanagement, kein ERP und kein CRM – es macht Inhalte übergreifend auffindbar und nutzbar.

Typische Wissensquellen sind Arbeits- und Verfahrensanweisungen, technische Dokumentation, Produktinformationen, Preis- und Leistungsbeschreibungen, Verträge und Projektvereinbarungen, abgeschlossene Servicefälle, Qualitätsdokumente, Schulungsunterlagen, Richtlinien, freigegebene Vorlagen sowie Daten aus ERP-, CRM- oder Ticketsystemen.

Technisches Grundprinzip: RAG

Bei einem RAG-System (Retrieval Augmented Generation) geht eine Nutzerfrage nicht direkt und ausschließlich an ein Sprachmodell. Zunächst werden passende Informationen aus freigegebenen Quellen gesucht und der Anfrage als Kontext beigefügt. Das kann falsche Ausgaben und Halluzinationen reduzieren, beseitigt sie aber nicht vollständig. Zweckbindung, Transparenz, Zugriffsrechte und Betroffenenrechte müssen für das Gesamtsystem geprüft werden.

Acht Qualitätsmerkmale eines belastbaren Company Brain

  1. Quellennachweis: Jede fachliche Aussage lässt sich auf eine Quelle zurückführen.
  2. Versionsstand: Das System unterscheidet gültige von veralteten Dokumenten.
  3. Inhaltseigentümer: Für jede wesentliche Quelle ist eine Stelle benannt.
  4. Berechtigungsvererbung: Nutzer sehen nur, was sie auch im Quellsystem sehen dürfen.
  5. Dokumentenstatus: Entwurf, freigegeben, abgelaufen und archiviert sind unterscheidbar.
  6. Aktualisierungsprozess: Änderungen in den Quellsystemen werden kontrolliert übernommen.
  7. Antwortgrenzen: Bei unzureichender Evidenz antwortet das System nicht spekulativ.
  8. Rückmeldung: Nutzer können falsche oder unvollständige Antworten melden.

Checkliste · Ist Ihr Wissen KI-fähig?

Sind die wichtigsten Wissensquellen bekannt? Gibt es Dubletten oder widersprüchliche Versionen? Sind Verantwortliche benannt? Lassen sich gültige Dokumente von Entwürfen unterscheiden? Sind Zugriffsrechte dokumentiert? Liegen Inhalte maschinenlesbar vor? Gibt es eine Regel für veraltete Inhalte? Sind personenbezogene und vertrauliche Informationen klassifiziert? – Je mehr Fragen Sie mit Nein beantworten, desto stärker muss die Wissensorganisation Teil des Projekts sein.

10   Teil D · Technik und Wissen

KI-Agenten kontrolliert einsetzen

Eine Wissensassistenz beantwortet Fragen; ein Agent kann zusätzlich Aktionen ausführen – einen Datensatz anlegen, eine E-Mail vorbereiten, einen Workflow auslösen. Mit jedem zusätzlichen Recht steigt der Nutzen und das Risiko. Für den Mittelstand empfiehlt sich ein stufenweises Autonomiemodell.

StufePrinzipBeispiel
0 · InformationKI liefert Inhalte oder Vorschläge; der Nutzer führt jede Aktion selbst aus.Zusammenfassung eines Kundenverlaufs
1 · VorbereitungKI bereitet eine Aktion vollständig vor; ein Mensch prüft und bestätigt.Antwortmail oder CRM-Eintrag als Entwurf
2 · Begrenzte AusführungKI führt freigegebene, reversible Aktionen aus.Internes Ticket mit festen Feldern anlegen
3 · Bedingte AusführungKI führt mehrere Schritte aus, solange Regeln erfüllt sind; Abweichungen werden eskaliert.Standardanfrage klassifizieren, Unterlagen anfordern, Vorgang zuweisen
4 · Hohe AutonomieKI plant und koordiniert weitgehend selbstständig – nur für eng abgegrenzte, gut überwachte, risikoarme Prozesse.Automatisierte Teilprozesse mit enger Überwachung

Notwendige Begrenzungen

Ein Agent benötigt eine eigene technische Identität, minimale Berechtigungen, festgelegte erlaubte Werkzeuge, Betrags-, Mengen- oder Aktionsgrenzen, eine Protokollierung, Abbruch- und Eskalationsregeln, Freigaben für kritische Schritte sowie eine regelmäßige Überprüfung seiner Rechte.

Aktionen, die immer eine menschliche Freigabe brauchen

  • Vertrags- und Preiszusagen, Bestellungen oberhalb definierter Grenzen, Zahlungen;
  • Löschung oder Massenänderung von Daten, Personalentscheidungen;
  • Freigabe sicherheitsrelevanter Arbeiten, Veröffentlichung sensibler Informationen;
  • Kommunikation in Konflikt- oder Beschwerdefällen, Änderungen an Produktions- oder Anlagenparametern.
Sicherheitsregel Ein KI-Agent sollte nie mehr Zugriffsrechte erhalten, als ein neu eingestellter Mitarbeiter für dieselbe Aufgabe benötigen würde.
11   Teil D · Technik und Wissen

Cloud, lokale KI oder Hybridbetrieb?

Die Architektur muss zum Risiko und zum Betriebsmodell passen – nicht zur Ideologie. Weder Cloud noch lokale Installation sind automatisch sicher, günstig oder zukunftsfest.

KriteriumStandard-CloudPrivate Cloud / EU-HostingLokaler BetriebHybrid
Einführungsaufwandniedrigmittelhochmittel–hoch
Modellleistungmeist sehr hochhochhardwareabhängigbedarfsgerecht
Datenkontrollevertragsabhängighöher steuerbarsehr hochdifferenziert
Betriebsaufwandgeringmittelhochmittel
Internetabhängigkeithochhochgeringprozessabhängig
KostenstrukturnutzungsabhängigVertrag und NutzungHardware und Betriebkombiniert

Wann welche Variante passt

Standard-Cloud eignet sich, wenn schnell gestartet werden soll, keine besonders schutzwürdigen Daten verarbeitet werden, die beste Modellleistung benötigt wird und der Anbieter vertraglich wie technisch geeignet ist.

Private Cloud oder EU-Hosting eignet sich, wenn Standort, Auftragsverarbeitung und Unterauftragnehmer stärker kontrolliert werden müssen, Unternehmensdaten zentral verarbeitet werden und ein professioneller Betrieb ohne eigene Hardware gewünscht ist.

Lokaler Betrieb eignet sich, wenn Informationen das Unternehmen nicht verlassen dürfen, die Anwendung auch ohne Internet funktionieren muss, ein begrenzter, stabiler Aufgabenbereich besteht und ausreichende Hardware und Betriebskompetenz vorhanden sind.

Hybridbetrieb ist häufig die beste Wahl: vertrauliche Dokumente lokal verarbeiten, einfache Klassifikationen mit einem kleinen Modell erledigen, nur anonymisierte Fragestellungen an ein externes Modell senden und je nach Kosten, Risiko und Aufgabe unterschiedliche Modelle wählen.

Lokal bedeutet nicht automatisch sicher

Auch lokale Systeme brauchen Patch- und Updateprozesse, Identitäts- und Berechtigungsmanagement, Protokollierung, Backup, Netzwerksegmentierung, Schwachstellenmanagement und eine Überwachung ihrer Komponenten und Abhängigkeiten.

12   Teil D · Technik und Wissen

Daten und Integration: klein beginnen, sauber wachsen

Für den ersten produktiven Anwendungsfall braucht es keinen unternehmensweiten Data Lake. Meist genügen drei bis fünf verlässliche Daten- oder Wissensquellen – viele Projekte werden unnötig groß geplant.

Sinnvolle Reihenfolge

  1. Prozess und Informationsbedarf festlegen.
  2. Tatsächlich benötigte Quellen bestimmen.
  3. Datenqualität und Berechtigungen prüfen.
  4. Nur erforderliche Inhalte anbinden.
  5. Ergebnisqualität mit realen Testfällen messen.
  6. Weitere Quellen kontrolliert ergänzen.

Integration vor Automatisierung

Eine KI-Anwendung sollte keinen unklaren Prozess erraten müssen. Vor der Umsetzung sollten diese Fragen beantwortet sein: Wo beginnt der Prozess? Welche Angaben sind zwingend? Welches System führt den Vorgang? Wer entscheidet bei Ausnahmen? Welche Information darf geschrieben oder verändert werden? Wo endet die Verantwortung der KI?

RAG oder Fine-Tuning?

RAG eignet sich für

  • aktuelle Unternehmensdokumente,
  • häufig wechselnde Inhalte,
  • Antworten mit Quellenbezug,
  • unterschiedliche Zugriffsrechte,
  • nachvollziehbare Wissenssuche.

Fine-Tuning eignet sich eher für

  • wiederkehrenden Sprachstil,
  • eng definierte Klassifikation,
  • spezielle Ausgabeformate,
  • Verhaltensanpassung eines Modells.

Fine-Tuning ist selten die erste Wahl, um einem Modell aktuelle Produktinformationen, Preise oder Richtlinien beizubringen. Solche Inhalte lassen sich über eine kontrollierte Wissensanbindung leichter aktualisieren und wieder zurückziehen.

Datencheck vor dem Pilot

Sind die Informationen vollständig genug und fachlich freigegeben? Sind die Formate lesbar und konsistent? Gibt es stabile Identifikatoren für Kunde, Auftrag, Anlage oder Projekt? Sind personenbezogene Daten wirklich erforderlich, oder lassen sie sich minimieren und anonymisieren? Werden bestehende Zugriffsrechte übernommen? Sind Löschung und Aktualisierung technisch möglich? Gibt es Testdaten ohne unnötige Echtdaten? Können Ein- und Ausgaben angemessen protokolliert werden?

13   Teil E · Steuerung

KI-Governance und EU AI Act 2026

Der EU AI Act folgt einem risikobasierten Ansatz. Entscheidend ist nicht allein, welches Modell eingesetzt wird, sondern zu welchem Zweck, in welcher Rolle und mit welchen Auswirkungen ein konkretes KI-System verwendet wird. Der Mittelstand braucht sieben Bausteine – kein Konzernhandbuch.

Aktueller Fristenüberblick

Der sogenannte Digital Omnibus hat den Zeitplan Mitte 2026 spürbar entzerrt. Der Rat der Europäischen Union erteilte am 29. Juni 2026 die endgültige Zustimmung; das Europäische Parlament hatte am 16. Juni 2026 zugestimmt. Maßgeblich ist die Veröffentlichung im EU-Amtsblatt.

AbRegelungsbereich
2. Februar 2025Verbotene Praktiken und Pflicht zur KI-Kompetenz gelten.
2. August 2025Pflichten für Anbieter von Modellen mit allgemeinem Verwendungszweck (GPAI); unverändert.
2. August 2026Transparenzpflichten nach Artikel 50 (u. a. Kennzeichnung KI-generierter Inhalte) bleiben in Kraft. Start der nationalen Marktüberwachung; in Deutschland ist die Bundesnetzagentur als zentrale Stelle vorgesehen.
2. Dezember 2026Neue Verbote für nicht einvernehmliche intime Darstellungen und Missbrauchsmaterial; verkürzte Übergangsfrist für Kennzeichnungslösungen bei bereits eingesetzten Systemen.
2. Dezember 2027Hochrisikoregeln für eigenständige Systeme nach Annex III (u. a. Beschäftigung, Bonität, Bildung).
2. August 2028Hochrisikoregeln für in Produkte eingebettete Systeme nach Annex I (u. a. Maschinen, Medizinprodukte).

Relevant für den Mittelstand

Der Digital Omnibus führt Erleichterungen für kleinere Unternehmen und „Small Mid-Caps“ ein (bis rund 750 Beschäftigte). Zugleich bleibt die Registrierungspflicht für Annex-III-Systeme bestehen, die ein Anbieter selbst als nicht hochriskant einstuft – die Selbsteinschätzung wird damit zu einem dokumentierten Vorgang. Die Sanktionen sind unverändert hoch: bis zu 35 Mio. Euro oder 7 Prozent des weltweiten Jahresumsatzes bei verbotenen Praktiken, bis zu 15 Mio. Euro oder 3 Prozent bei sonstigen Verstoßen.

Sieben Bausteine einer pragmatischen KI-Governance

1. KI-Verzeichnis – erfassen Sie Anwendung, Anbieter, Zweck, verantwortlichen Fachbereich, Nutzergruppe, verwendete Daten, angebundene Systeme, Risikoeinstufung, menschliche Kontrollpunkte und Betriebsstatus.

2. Rollenmodell – Management-Sponsor, fachlicher Prozessverantwortlicher, technischer Betreiber, Datenschutz- und Sicherheitsansprechpartner, Freigabestelle und Supportverantwortlicher.

3. Nutzungsrichtlinie – zulässige Werkzeuge, erlaubte Datenklassen, Umgang mit personenbezogenen Informationen, Ergebnisprüfung, Kennzeichnungspflichten, verbotene Anwendungsfälle und Fehlermeldung.

4. Freigabeverfahren – nicht jede kleine Assistenz braucht ein Großprojekt, aber einen nachvollziehbaren Weg von der Idee über die Risikoprüfung bis zur Freigabe.

5. Kompetenz und Schulung – rollenbezogen: ein Sachbearbeiter braucht anderes Wissen als ein Administrator oder Freigabeverantwortlicher.

6. Qualitäts- und Kontrollverfahren – Testfälle, Mindestqualität, Kontrollstichproben und Eskalationsregeln.

7. Regelmäßiger Review – mindestens halbjährlich Anwendungen, Anbieter, Berechtigungen, Vorfälle, Nutzung und Nutzen prüfen.

Praxisprinzip Governance soll den sicheren Einsatz ermöglichen. Eine Richtlinie, die jede Nutzung verhindert, fördert Schatten-KI statt Kontrolle.
14   Teil E · Steuerung

Datenschutz, Informationssicherheit und Qualität

KI erweitert die bekannte IT-Risikolandschaft. Neben klassischen Sicherheitsrisiken entstehen neue Angriffsmöglichkeiten und Fehlerquellen, die man kennen und begrenzen muss.

Typische Risiken

Vertrauliche Eingaben – Beschäftigte geben Kundendaten, Vertragsinhalte, Quellcode oder Kalkulationen in nicht freigegebene Dienste ein. Prompt Injection – manipulierte Inhalte versuchen, Systemanweisungen zu umgehen oder einen Agenten zu unerlaubten Aktionen zu bewegen. Vergiftete Wissensquellen – fehlerhafte oder gezielt manipulierte Dokumente verfälschen Antworten. Übermäßige Berechtigungen – ein Agent erhält Zugriff auf mehr als für seine Aufgabe nötig. Halluzinationen – das System erzeugt plausible, aber falsche Angaben. Modell- und Serviceänderungen – ein Anbieter aktualisiert Modell, Filter oder Schnittstelle und verändert damit die Qualität eines bestehenden Prozesses. Unkontrollierte Protokollierung – Prompts und Antworten werden gespeichert, obwohl sie vertrauliche Inhalte enthalten.

Mindestmaßnahmen

  • freigegebene Anbieter und Modelle, Mehrfaktor-Authentifizierung, rollenbasierte Berechtigungen, minimale Agentenrechte, Verschlüsselung;
  • definierte Lösch- und Aufbewahrungsfristen, Prüfung angebundener Datenquellen, Filterung ungeeigneter Eingaben, Testfälle für Manipulationsversuche;
  • Qualitätsmessung nach Modellupdates, Protokollierung kritischer Aktionen, ein Verfahren für Sicherheits- und Datenschutzvorfälle sowie die Möglichkeit zur menschlichen Intervention.

Die Datenschutzkonferenz empfiehlt, Datenschutz von Beginn an nach dem Prinzip „Data Protection by Design“ einzubeziehen. Zu den Gewährleistungszielen zählen Datenminimierung, Verfügbarkeit, Vertraulichkeit, Integrität, Intervenierbarkeit, Transparenz und Nichtverkettung.

Drei Kontrollebenen

EbeneInhalt
Technische KontrolleZugriff, Filter, Protokollierung, Isolation, Tests und Überwachung.
Prozessuale KontrolleFreigaben, Vier-Augen-Prinzip, Stichproben, Zuständigkeiten und Eskalation.
Menschliche KontrolleFachliche Prüfung, Kontextverständnis und Übernahme der Verantwortung.

Keine Ebene ersetzt die anderen. Wo KI Verhalten oder Leistung von Beschäftigten erfassen kann, kommt die betriebliche Mitbestimmung hinzu: Solche Systeme sind frühzeitig mit dem Betriebsrat abzustimmen.

15   Teil E · Steuerung

Wirtschaftlichkeit belastbar bewerten

Zeitersparnis allein ist noch kein Business Case. Ein tragfähiger Nachweis berücksichtigt Nutzen, Kosten, Risiko und Einführungsaufwand gemeinsam.

Nutzenkategorien

Produktivität: geringerer Bearbeitungsaufwand, weniger Suchzeit, schnellere Dokumentation, weniger Rückfragen, schnellere Übergaben. Qualität: vollständigere Vorgänge, weniger Übertragungsfehler, einheitlichere Kommunikation, bessere Nachvollziehbarkeit. Kapazität: mehr Vorgänge mit gleichem Personal, Entlastung knapper Spezialisten, kürzere Reaktionszeiten. Umsatz und Kundenbindung: schnellere Angebote, weniger verlorene Anfragen, bessere Nachverfolgung, zusätzliche digitale Dienstleistungen.

Vollständige Kostenbetrachtung

Lizenzen und Modellnutzung, Implementierung, Schnittstellen, Daten- und Wissensaufbereitung, Infrastruktur, Datenschutz und Informationssicherheit, Schulung, fachliche Tests, Support, laufende Pflege sowie ein möglicher Modell- oder Anbieterwechsel.

Beispielrechnung

Zwölf Mitarbeiter sparen durch eine Wissens- und Vorgangsassistenz im Schnitt 25 Minuten pro Arbeitstag. Bei 20 Arbeitstagen im Monat sind das rund 100 eingesparte Stunden monatlich. Bei kalkulatorischen Personalkosten von 48 Euro je Stunde entspricht das einem jährlichen Bruttonutzen von rund 57.600 Euro.

Einführung28.000 €
Laufender Betrieb im ersten Jahr18.000 €
Gesamtkosten erstes Jahr46.000 €
Rechnerischer Überschuss (Jahr 1)11.600 €

Amortisation nach knapp zehn Monaten. Nicht enthalten sind Effekte aus besserer Qualität, schnelleren Reaktionszeiten oder zusätzlichen Aufträgen. Die Annahmen sind bewusst konservativ und sollten mit den eigenen Ausgangswerten hinterlegt werden.

Geeignete Kennzahlen

ProzessMögliche Kennzahl
KundenanfrageZeit bis zur qualifizierten Bearbeitung
AngebotDurchlaufzeit und Rückfragen je Angebot
ServiceErstlösungsquote und Dokumentationsqualität
Wissenssuchedurchschnittliche Suchzeit
ReklamationBearbeitungsdauer und Wiederholungsfehler
ProjektübergabeAnzahl fehlender Informationen
KI-Systemfachliche Trefferquote und Eskalationsquote

Nicht ausreichend sind reine Aktivitätszahlen wie die Menge generierter Texte, gestellter Prompts oder registrierter Nutzer. Sie zeigen Bewegung, aber noch keinen betrieblichen Nutzen.

16   Teil E · Umsetzung

Die ersten 100 Tage

Ein produktiver Pilot braucht einen klaren Takt. Jede Phase hat ein Ergebnis und eine Leitfrage – und darf auch mit einem begründeten Abbruch enden.

Tage 1–15 · Problem und Verantwortung klären

Ergebnisse: klar beschriebener Geschäftsprozess, Ausgangswerte und Zielkennzahlen, benannter Management-Sponsor, fachlicher Prozessverantwortlicher, erste Risiko- und Datenschutzprüfung, Entscheidung über den Pilotumfang. Leitfrage: Welcher konkrete Arbeitsschritt soll nach 100 Tagen messbar besser funktionieren?

Tage 16–35 · Prozess, Wissen und Daten vorbereiten

Ergebnisse: Sollprozess, benötigte Datenfelder, ausgewählte Wissensquellen, Zugriffs- und Rollenmodell, Liste kritischer Ausnahmen, Testfallkatalog. Leitfrage: Welche Informationen braucht ein qualifizierter Mitarbeiter, um die Aufgabe korrekt auszuführen?

Tage 36–65 · Prototyp entwickeln und testen

Ergebnisse: funktionsfähiger Prototyp, erste Integration, definierte Antwort- und Aktionsgrenzen, Qualitätsmessung mit realistischen Fällen, dokumentierte Fehlerbilder. Leitfrage: Versagt das System erkennbar und kontrolliert – oder überzeugend und unbemerkt?

Tage 66–85 · Pilot im Arbeitsalltag

Ergebnisse: begrenzte Nutzergruppe, Schulung, Supportkanal, Feedback- und Fehlermeldung, wöchentliche Qualitätsauswertung, Vergleich mit den Ausgangswerten. Leitfrage: Wird der Prozess tatsächlich einfacher – oder verlagert sich der Aufwand nur?

Tage 86–100 · Betriebsentscheidung

Ergebnisse: Nutzen- und Risikobewertung, Betriebs- und Supportkonzept, Kostenmodell, Entscheidung über Skalierung, Anpassung oder Abbruch. Leitfrage: Kann das Unternehmen die Lösung über die erste Projektphase hinaus verlässlich betreiben?

Drei legitime Ergebnisse eines Piloten

Skalieren – Nutzen und Qualität sind ausreichend. Nachbessern – der Fall ist sinnvoll, braucht aber bessere Daten oder Prozesse. Beenden – Nutzen oder Beherrschbarkeit reichen nicht aus. Auch ein begründet beendeter Pilot ist ein gutes Projektergebnis.

17   Teil E · Betrieb

Ein Betriebsmodell für den Mittelstand

Rollen können kombiniert werden, Verantwortlichkeiten nicht. Ein mittelständisches Unternehmen braucht nicht für jede Aufgabe eine eigene Abteilung, aber die wesentlichen Rollen müssen benannt sein.

RolleVerantwortung
Geschäftsführung / SponsorZiel, Budget, Priorität und Risikoakzeptanz
Fachlicher ProzessverantwortlicherProzess, Regeln, Qualität und fachliche Freigabe
IT-VerantwortlicherArchitektur, Integration, Identitäten und Betrieb
DatenschutzPrüfung personenbezogener Verarbeitung und Schutzmaßnahmen
InformationssicherheitBedrohungsanalyse, technische Kontrollen und Vorfälle
InhaltseigentümerAktualität und Freigabe von Wissensquellen
Key UserPraxistest, Feedback und Unterstützung der Nutzer
Anbieter / ImplementierungspartnerUmsetzung, Dokumentation, Support und Änderungen

Regelmäßige Betriebssteuerung

Ein monatlicher oder quartalsweiser KI-Betriebsreview sollte Nutzung und aktive Nutzer, Prozesskennzahlen, Ergebnisqualität, Fehlermeldungen, Sicherheits- und Datenschutzvorfälle, Änderungen an Modell oder Anbieter, die Kostenentwicklung, neue Datenquellen, Berechtigungen und offene Verbesserungsmaßnahmen behandeln.

Jährlicher Governance-Review

Mindestens einmal jährlich: Wird die Anwendung noch benötigt? Entspricht der Zweck weiterhin der Freigabe? Haben sich Daten oder Schnittstellen verändert? Sind Rechte noch angemessen? Hat sich die rechtliche Einordnung geändert? Sind Schulungen aktuell? Gibt es günstigere oder sicherere Alternativen? Ist ein Anbieterwechsel vorbereitet? Können Anwendungen stillgelegt werden?

Verantwortlichkeit bleibt beim Unternehmen

Auch bei vollständig eingekaufter Software bleibt das einsetzende Unternehmen für die betriebliche Verwendung verantwortlich. Anbieterunterlagen ersetzen nicht die eigene Prüfung des konkreten Anwendungsfalls.

18   Teil E · Betrieb

KI-Reifegradmodell

Reife zeigt sich nicht an der Zahl der Lizenzen, sondern daran, wie kontrolliert und wirksam KI in die Organisation eingebettet ist.

StufeMerkmalePriorität
0 · Unkontrollierte Nutzungprivate oder kostenlose Werkzeuge, keine Richtlinie, keine Übersicht, vertrauliche Eingaben möglichTransparenz schaffen, sichere Basisangebote bereitstellen
1 · Einzelne Assistenzfreigegebene Standardtools, persönliche Produktivität, kaum Prozessintegration, Nutzen nicht gemessengeeignete betriebliche Anwendungsfälle auswählen
2 · Kontrollierte Pilotprojektedefinierter Anwendungsfall, Verantwortlicher, begrenzte Nutzergruppe, Testfälle, erste GovernanceQualität, Integration und Betrieb nachweisen
3 · Integrierte ProzesseVerbindung zu DMS, CRM, ERP oder Ticketsystem, Rollen und Rechte, messbarer Nutzen, geregelter Supportwiederverwendbare Architektur und Standards schaffen
4 · Skalierbares Betriebsmodellzentrales KI-Verzeichnis, wiederverwendbare Komponenten, Modell- und Kostensteuerung, standardisierte FreigabenPortfolio steuern, redundante Lösungen vermeiden
5 · KI-gestützte Differenzierungneue Leistungen und Geschäftsmodelle, tiefe Prozessintegration, systematisches Lernen aus NutzungWettbewerbsvorteil sichern, Abhängigkeiten kontrollieren

Die meisten mittelständischen Unternehmen bewegen sich 2026 zwischen Stufe 1 und Stufe 3. Der Sprung von Stufe 1 zu Stufe 2 gelingt über die Auswahl eines geeigneten Anwendungsfalls; der Sprung von Stufe 2 zu Stufe 3 entscheidet sich an Integration, Betrieb und nachgewiesenem Nutzen.

19   Teil E · Selbstcheck

Management-Selbstcheck

Bewerten Sie jede Aussage mit 0 Punkten (nicht vorhanden), 1 Punkt (teilweise) oder 2 Punkten (ausreichend vorhanden). Der Selbstcheck ersetzt keine Detailanalyse, zeigt aber, wo Voraussetzungen fehlen.

Strategie und NutzenPunkte
1 · Wir können mindestens ein konkretes Geschäftsproblem benennen.0–2
2 · Für den Anwendungsfall existiert eine messbare Ausgangsgröße.0–2
3 · Ein Management-Sponsor ist benannt.0–2
Prozess und WissenPunkte
4 · Der betroffene Arbeitsprozess ist ausreichend beschrieben.0–2
5 · Die benötigten Wissens- und Datenquellen sind bekannt.0–2
6 · Für wesentliche Inhalte sind Verantwortliche benannt.0–2
7 · Veraltete und freigegebene Dokumente sind unterscheidbar.0–2
OrganisationPunkte
8 · Ein fachlicher Prozessverantwortlicher ist benannt.0–2
9 · Die geplante Nutzergruppe ist klar begrenzt.0–2
10 · Kontroll- und Eskalationspunkte sind beschrieben.0–2
11 · Support und Fehlermeldung sind vorgesehen.0–2
Technik und SicherheitPunkte
12 · Zugriffsrechte sind dokumentiert.0–2
13 · Personenbezogene und vertrauliche Daten sind klassifiziert.0–2
14 · Der technische Betriebsort wurde bewusst gewählt.0–2
15 · Kritische Aktionen werden protokolliert.0–2
16 · Ein Sicherheits- und Datenschutzcheck ist Teil der Einführung.0–2
Betrieb und SkalierungPunkte
17 · Qualitätskriterien und Testfälle sind definiert.0–2
18 · Laufende Kosten können gemessen werden.0–2
19 · Änderungen an Modell oder Anbieter werden kontrolliert.0–2
20 · Eine Entscheidung über Fortführung oder Abbruch ist vorgesehen.0–2
AuswertungEinordnung
0–14Wesentliche Grundlagen fehlen.
15–25Ein begrenzter Pilot ist mit Vorbereitung möglich.
26–33Gute Ausgangslage für einen produktiven Pilot.
34–40Voraussetzungen für Integration und Skalierung vorhanden.
20   Teil E · Entscheidung

Entscheidungshilfe und Fazit

Der sinnvolle nächste Schritt hängt von Ihrer Ausgangslage ab. Fünf typische Situationen – und der jeweils passende Einstieg.

SituationNächster Schritt
A · Mitarbeiter nutzen bereits frei verfügbare KINutzung sichtbar machen, freigegebene Alternative bereitstellen, Grundregeln und Schulung einführen, besonders kritische Datenklassen sperren.
B · Viele Ideen, aber keine PrioritätProzesse und Engpässe aufnehmen, Anwendungsfälle bewerten, ein Portfolio nach Nutzen, Aufwand und Risiko erstellen, einen Pilot auswählen.
C · Dokumente und Wissen schwer auffindbarrelevante Wissensquellen bestimmen, Verantwortlichkeiten und Versionen klären, ein begrenztes Company Brain für eine Nutzergruppe aufbauen.
D · Ein Pilot funktioniert, wird aber nicht genutztArbeitsablauf statt Modell prüfen, Nutzer einbeziehen, Medienbrüche messen, das System in die bestehende Oberfläche integrieren.
E · Mehrere KI-Lösungen entstehen parallelKI-Verzeichnis erstellen, Architektur und Anbieter konsolidieren, gemeinsame Identitäts-, Wissens- und Governance-Bausteine festlegen, Kosten und Risiken zentral steuern.

Fazit

KI ist 2026 kein isoliertes Technologiethema mehr. Sie betrifft Prozesse, Unternehmenswissen, Organisation, Datenschutz, Informationssicherheit und Führung. Erfolgreiche mittelständische Unternehmen verfolgen dabei keinen maximalistischen Ansatz. Sie automatisieren nicht alles, was technisch möglich ist, sondern wählen Aufgaben, bei denen der betriebliche Nutzen erkennbar ist, Daten und Wissen beherrschbar sind, Verantwortlichkeiten geklärt sind, Ergebnisse geprüft werden können und der laufende Betrieb wirtschaftlich bleibt.

Die entscheidende Managementfrage Nicht: „Welches KI-Modell sollen wir einsetzen?“ – sondern: „Welchen Prozess möchten wir verbessern, welches Wissen brauchen wir dafür und unter welchen Bedingungen darf die KI handeln?“
    Nächster Schritt

KI-Potenzial strukturiert einordnen

Ein tragfähiger Einstieg baut in drei Schritten aufeinander auf – von der nüchternen Standortbestimmung bis zum begrenzten Pilot mit klaren Zielkennzahlen.

1 · KI-Erstcheck

Kurze, sachliche Bewertung von Ausgangslage, Reifegrad, Chancen und kritischen Voraussetzungen.

2 · KI-Potenzialbericht

Priorisierte Anwendungsfälle mit Nutzen, Machbarkeit, Risiken und empfohlenem Vorgehen.

3 · Begrenzter Umsetzungspilot

Umsetzung eines klar definierten Anwendungsfalls mit Zielkennzahlen, Kontrollpunkten und einer belastbaren Betriebsentscheidung.

Über KrambergAI

KrambergAI unterstützt mittelständische Unternehmen bei der Auswahl, Einführung und dem Betrieb praxisnaher KI-Lösungen. Der Anspruch ist bewusst zurückhaltend: Technik soll die Arbeit ruhiger machen und für Entlastung, Kontrolle und Sicherheit sorgen – nicht für zusätzliche Komplexität.

Schwerpunkte sind KI-Mitarbeiter und Prozessassistenzen, Company Brain und Unternehmenswissen, UnternehmensGPT und lokale KI, digitale Kundenschnittstellen, KI-Telefonie, KI-Governance sowie Sichtbarkeit in KI- und Suchsystemen.

Positionierung Datenschutz nach EU-DSGVO und Made in Germany – als verlässliche Grundlage für KI, die im deutschen Mittelstand tragfähig ist.

KrambergAI GmbH
krambergai.com

    Anhang

Glossar

Zentrale Begriffe dieses Whitepapers – kurz und praxisnah erklärt.

BegriffBedeutung
Sprachmodell (LLM)Auf großen Textmengen trainiertes Modell, das Sprache versteht und erzeugt. Kennt kein unternehmensspezifisches Wissen, solange es nicht angebunden wird.
Generative KIKI, die neue Inhalte wie Texte, Bilder oder Code erzeugt.
Company BrainKontrollierte Verbindung aus freigegebenem Unternehmenswissen und einer KI-Oberfläche. Macht Inhalte übergreifend auffindbar, ersetzt aber kein DMS, ERP oder CRM.
RAGRetrieval Augmented Generation: Verfahren, das vor der Antwort passende Informationen aus freigegebenen Quellen sucht und dem Modell als Kontext beifügt.
Fine-TuningNachtraining eines Modells, um Stil, Format oder Verhalten anzupassen. Für aktuelle Fakten wie Preise oder Richtlinien meist ungeeignet.
KI-AssistenzUnterstützt einen Menschen bei einer Aufgabe (formulieren, suchen, prüfen), ohne selbst zu handeln.
KI-AgentKI, die unter definierten Regeln Aktionen ausführen kann, etwa einen Datensatz anlegen oder eine E-Mail vorbereiten.
KI-MitarbeiterDigitale Lösung, die für eine definierte Rolle mehrere Aufgaben bündelt. Kein Beschäftigter im arbeitsrechtlichen Sinn.
PromptEingabe oder Anweisung an ein KI-System.
Prompt InjectionAngriff, bei dem manipulierte Inhalte Systemanweisungen umgehen oder unerlaubte Aktionen auslösen.
HalluzinationPlausibel wirkende, aber sachlich falsche Ausgabe eines Modells.
EU AI ActEuropäische Verordnung mit risikobasiertem Ansatz für KI-Systeme.
GPAIModelle mit allgemeinem Verwendungszweck. Für ihre Anbieter gelten eigene Pflichten.
Hochrisiko-KIKI in sensiblen Bereichen wie Beschäftigung oder Bonität mit erhöhten Anforderungen.
DSGVODatenschutz-Grundverordnung. Regelt die Verarbeitung personenbezogener Daten in der EU.
Data Protection by DesignGrundsatz, Datenschutz von Beginn an in Entwicklung und Betrieb einzubauen.
GovernanceRegeln, Rollen und Kontrollen für den sicheren und nachvollziehbaren KI-Einsatz.
    Anhang

Quellen und Studien

Die zentralen Kennzahlen und rechtlichen Angaben stützen sich auf die folgenden öffentlich verfügbaren Quellen (Stand Juli 2026).

Statistisches Bundesamt (Destatis) – Nutzung von IKT in Unternehmen 2025, Ergebnisse zur KI-Nutzung und zu Einführungshemmnissen.
destatis.de

KfW Research – Einsatz von Künstlicher Intelligenz im Mittelstand (Februar 2026) sowie KfW-Digitalisierungsbericht Mittelstand 2025.
kfw.de

Bitkom e. V. – Digitalisierung der Wirtschaft: Unternehmen und KI (März 2026); Künstliche Intelligenz in Deutschland (Studie 2026 auf Basis von Befragungen 2025).
bitkom.org

Eurostat – Use of artificial intelligence in enterprises (Datenstand Dezember 2025).
ec.europa.eu/eurostat

OECD – Generative AI and the SME Workforce: New Survey Evidence (2025).
oecd.org

Europäische Kommission – AI Act: Regulatory Framework for Artificial Intelligence; Leitlinien zu Transparenz- und Hochrisikoregeln.
digital-strategy.ec.europa.eu

Rat der Europäischen Union – Artificial Intelligence: Council gives final green light to simplify and streamline rules (29. Juni 2026), Digital Omnibus / Omnibus VII.
consilium.europa.eu

Datenschutzkonferenz (DSK) – Orientierungshilfe zu technischen und organisatorischen Maßnahmen bei KI-Systemen (2025); Besonderheiten generativer KI mit RAG-Methode (2025).
datenschutzkonferenz-online.de

Bundesamt für Sicherheit in der Informationstechnik (BSI) – Generative KI-Modelle: Chancen und Risiken für Industrie und Behörden (aktualisierte Fassung 2025).
bsi.bund.de

Bundesnetzagentur – Informationen zur nationalen Marktüberwachung und Koordinierung im Rahmen des EU AI Act.
bundesnetzagentur.de

Redaktioneller Hinweis

Dieses Whitepaper bietet eine betriebliche und technische Orientierung. Es ersetzt keine Rechtsberatung, Datenschutzprüfung oder sicherheitstechnische Bewertung des konkreten Anwendungsfalls. Die rechtlichen Angaben entsprechen dem recherchierten Stand vom Juli 2026. Aufgrund der laufenden Umsetzung des EU AI Act – einschließlich der Veröffentlichung des Digital Omnibus im EU-Amtsblatt und der nationalen Durchführung – sollten Fristen, Leitlinien und Zuständigkeiten unmittelbar vor einer verbindlichen Nutzung erneut geprüft werden.