IHK Erfurt: KI im Mittelstand – Vortragsnotizen und Material

Im Februar 2026 durfte ich bei der IHK Erfurt einen Vortrag zu KI im Mittelstand halten. Das Publikum: rund 60 Geschäftsführer:innen aus Thüringen, Sachsen-Anhalt und Nordbayern, von Maschinenbau über Logistik bis Steuerberatung. Die Fragen, die in der anschließenden Diskussion am häufigsten kamen, fasse ich hier zusammen — als Nachlese für Teilnehmende und als Einstieg für alle, die nicht dabei waren.

Kernbotschaft: KI ist kein Innovationsthema mehr, sondern ein Compliance-Thema

In den meisten Mittelständlern ist KI längst angekommen — nur eben über private Accounts der Mitarbeiter. Die Frage „Sollen wir KI einsetzen?" war 2023 noch sinnvoll. 2026 lautet die ehrliche Variante: „Wie ziehen wir die existierende Schatten-IT in eine kontrollierte, DSGVO-feste Linie?"

Das ist eine andere Aufgabe als „KI-Strategie entwickeln". Es geht weniger um Visionen und mehr um pragmatische Architektur, klare Mitarbeiter-Leitfäden und überprüfbare Audits.

Drei Use-Cases mit zuverlässigem ROI

Im Vortrag habe ich diese drei priorisiert, weil sie sich in fast allen Mittelständlern lohnen:

1. Korrespondenz-Entwürfe. Vertrieb, Einkauf, Kundenservice. Mitarbeiter:innen schreiben Routine-E-Mails 30–50% schneller, mit konsistenterer Sprache. ROI nach 4–8 Wochen sichtbar.
2. Eingangspost-Triage und Klassifikation. Post, E-Mails, Rechnungen, Anfragen werden automatisch sortiert und Routine-Antworten entworfen. Sekretariate werden um 30–50% entlastet.
3. Internes Wissensmanagement (RAG). Verfahrensanweisungen, Produkthandbücher, Dienstanweisungen werden über semantische Suche zugänglich. Onboarding-Zeiten neuer Mitarbeiter:innen sinken um 30–40%.

Was ich explizit nicht empfehle, wenn Sie gerade einsteigen: KI-gestützte Personal-Vorauswahl (AI-Act-Hochrisiko, Mitbestimmungs-Pflicht), automatisierte Kunden-Antworten ohne menschliche Freigabe, vollautomatisierte Entscheidungen mit Außenwirkung.

ROI-Faustregeln aus 30+ Mittelstandsprojekten

Wer ein realistisches Bild der Kostenstruktur will, kann mit folgenden Posten rechnen — konkrete Größenordnungen variieren stark mit Komplexität, Branche und Nutzungsintensität:

• Architektur und Setup: einmalig, deutlich günstiger als ein Stelle-aufbauen-und-selber-machen.
• Lizenzen und Modell-Kosten: laufend pro aktivem Mitarbeiter pro Monat — token-basiert auf Azure OpenAI oder seat-basiert auf konsolidierten Lösungen wie Microsoft 365 Copilot.
• Schulung: pro Workshop-Tag plus interne Multiplikatoren.
• Realistischer Zeitgewinn: 15–25% bei Wissensarbeit. Bei einem Stundensatz von 55 € sind das eine deutliche Brutto-Wert-Schöpfung pro Mitarbeiter und Jahr.

Wer kleiner ist als 20 Mitarbeiter:innen, kommt oft mit fertigen Tools (Microsoft 365 Copilot) ohne Beratungs-Aufschlag aus. Über 20 lohnt sich eine eigene Architektur in der Regel nach 6–12 Monaten.

DSGVO-Stolperfallen, die im Mittelstand häufig sind

Im Q&A kamen diese Fragen am häufigsten:

„Reicht ChatGPT Business als AVV?" Für reine Mittelstandsanwendungen oft ja. Sobald berufsrechtliche Verschwiegenheit (StGB §203, StBerG §57) im Spiel ist, raten wir konsequent zu Azure OpenAI mit Microsoft Deutschland als Vertragspartner.

„Brauchen wir eine Datenschutz-Folgenabschätzung?" Bei KI-Verarbeitung von personenbezogenen Daten fast immer. Wir liefern Vorlagen und arbeiten mit Ihrem DSB.

„Was ist mit dem Betriebsrat?" Mitbestimmungspflichtig sobald KI Einfluss auf Arbeitsbedingungen oder Performance-Bewertungen nimmt. Wir liefern Bausteine für eine Betriebsvereinbarung als Diskussionsgrundlage.

Roll-out-Reihenfolge

Aus der Erfahrung empfehle ich diese Sequenz:

1. Workshop für Geschäftsführung und DSB (halbtägig). Use-Cases priorisieren, Risiken einordnen.
2. Architektur und Pilot-Vorbereitung (4–6 Wochen). Modell-Wahl, Identity, Pseudonymisierung, ein Pilot-Use-Case.
3. Pilot in einem Team (4–8 Wochen). Wöchentliches Review, Use-Cases verfeinern.
4. Schulung der Belegschaft (parallel zu 3). Halbtägige Hands-On, Pflicht-Teilnahme dokumentieren.
5. Skalierung (laufend). Weitere Use-Cases inkrementell, monatliches KPI-Reporting.

Wer mehr will als die Vortragsnotizen: vertiefende Pillar-Inhalte gibt es zu ChatGPT im Unternehmen, ChatGPT DSGVO-konform und KI-Compliance. Branchenspezifisch lohnt die Persona-Seite für Mittelstand.

Wenn Sie konkret in Ihrem Unternehmen anfangen wollen: Erstgespräch buchen — kostenlos, 30 Minuten, mit ehrlicher Einschätzung.