KI im Unternehmen einführen: so integriert ihr sie in CRM, ERP & Co.

KI im Unternehmen einzuführen heißt in der Praxis: KI dorthin bringen, wo eure Daten und Abläufe schon liegen – ins CRM, ins ERP, ins Ticketsystem und in die Dokumentenablage. Sinnvoll ist ein schrittweises Vorgehen: einen messbaren ersten Anwendungsfall wählen, Daten und Schnittstellen prüfen, ein Integrationsmuster festlegen, Berechtigungen und Protokolle regeln, gegen eine Baseline messen und das Team befähigen.

Wie führt ihr KI im Unternehmen ein? Die sieben Schritte

Statt mit einer großen KI-Strategie beginnt eine tragfähige Einführung mit einem konkreten Engpass in einem System, das ihr schon nutzt. Der Ablauf im Überblick:

1. Ersten Use Case wählen: häufig, prüfbar, messbar und mit geringem Risiko.
2. Daten und Schnittstellen prüfen: API, Felder, Dokumentenquellen, personenbezogene Daten.
3. Integrationsmuster festlegen: API mit Funktionsaufrufen, strukturierte Extraktion, Middleware oder RAG.
4. Berechtigungen, Freigaben und Protokolle einrichten.
5. Erfolg gegen eine Baseline messen und vorab festlegen, wann der Pilot weitergeht.
6. Team befähigen: Schulung, interne Regeln, Betriebsrat.
7. Ausweiten: mehr Volumen, angrenzende Prozesse, mehr Automatisierung.

Schritt 1: Welcher Use Case eignet sich für den Start?

Ein guter erster Anwendungsfall kommt oft vor, verträgt eine menschliche Prüfung jedes Ergebnisses und lässt sich vorher wie nachher zählen. Wählt ihn nach dem Engpass, nicht nach dem eindrucksvollsten Demo-Effekt.

System	Typischer Einstieg	Was die KI liefert	Wer entscheidet
Ticketsystem	Eingehende Anfragen sortieren	Kategorie, Dringlichkeit, Antwortentwurf aus euren Textbausteinen	Mitarbeitende prüfen und senden
CRM	Gesprächsnotizen und E-Mail-Verläufe zusammenfassen	Zusammenfassung, nächste Schritte, vorbefüllte Felder	Vertrieb übernimmt oder verwirft
ERP	Eingangsrechnungen und Lieferscheine auslesen	Strukturierte Felder als Buchungsvorschlag	Buchhaltung gibt frei
Dokumentenablage	Interne Wissensfragen beantworten	Antwort mit Quellenangabe aus euren Dokumenten	Nutzer prüft die Quelle

Meidet für den Start alles, was ohne Prüfung nach außen kommuniziert oder über Personen entscheidet. Zwei Gründe: Nach Art. 22 DSGVO haben Betroffene das Recht, keiner ausschließlich automatisierten Entscheidung mit rechtlicher Wirkung unterworfen zu werden. Und KI zur Auswahl von Bewerbern oder zur Bonitätsbewertung natürlicher Personen gehört zu den Hochrisiko-Bereichen nach Anhang III des AI Act, deren Pflichten nach dem AI-Omnibus ab dem 2. Dezember 2027 gelten. Mehr Anwendungsfälle und wie ihr ihren Nutzen beziffert, zeigt unser Beitrag KI-Use-Cases im Unternehmen: Beispiele und Nutzen.

Schritt 2: Daten und Schnittstellen prüfen

Hier entscheidet sich der Aufwand. Klärt mit den Leuten, die den Prozess heute erledigen, und mit eurer IT diese Fragen:

• Zugang: Bietet das System eine dokumentierte API oder Webhooks, die bei neuen Tickets, Belegen oder Datensätzen auslösen? Gibt es ein Testsystem?
• Felder: Welche Felder braucht die KI wirklich, und welche schreibt sie zurück?
• Dokumente: Wo liegen sie (DMS, SharePoint, Fileserver), in welchen Formaten, und wie aktuell sind sie?
• Qualität: Sind Stammdaten, Kategorien und Textbausteine gepflegt? Ein unsauberer Prozess wird durch KI nur schneller unsauber.
• Personenbezug: Welche personenbezogenen Daten fließen, an welchen Anbieter, mit welchem Vertrag?

Beim letzten Punkt gelten die üblichen DSGVO-Pflichten: Rechtsgrundlage, Auftragsverarbeitungsvertrag nach Art. 28, Klärung von Drittlandübermittlungen und Datenminimierung. Ob ein Anbieter eure Eingaben fürs Training nutzt, hängt von Produkt und Tarif ab; bei der OpenAI-API etwa gilt für Daten ab dem 1. März 2023 standardmäßig kein Training. Einen Vergleich der Anbieter, EU-Hoster und lokalen Modelle findet ihr in DSGVO-konforme KI: ChatGPT, Copilot, Gemini oder lokal?

Schritt 3: Welches Integrationsmuster passt?

Die Wahl hängt davon ab, ob die KI etwas wissen, etwas auslesen oder etwas tun soll. Vier Muster decken die meisten Fälle ab, oft kombiniert:

Muster	Wofür	Wie es funktioniert	Worauf achten
API mit Funktionsaufrufen	KI soll im System handeln: Datensatz anlegen, Status setzen, suchen	Ihr beschreibt erlaubte Funktionen; das Modell schlägt Aufrufe vor, eure Anwendung führt sie aus	Nur nötige Funktionen freigeben, Aktionen mit Folgen bestätigen lassen
Strukturierte Extraktion	Belege, E-Mails, Formulare in Felder überführen	Ihr gebt ein JSON-Schema vor, das Modell füllt es	Schema-erzwingende Modi nutzen und Werte vor dem Buchen prüfen
Middleware und Workflow-Automatisierung	Mehrere Systeme verbinden, ohne alles selbst zu programmieren	Ein Workflow-Werkzeug ruft Modell und Systeme nacheinander auf	Zugangsdaten zentral verwalten, Fehlerfälle abfangen
RAG (Retrieval-Augmented Generation)	Fragen aus euren Dokumenten beantworten	Passende Textstellen werden gesucht und dem Modell mitgegeben	Zugriffsrechte bei der Suche beachten, Quellen anzeigen

API mit Funktionsaufrufen

Beim Function Calling (auch Tool Calling) verbindet ihr ein Modell mit Daten und Aktionen eurer Anwendung. Wichtig für die Sicherheit: Das Modell führt nichts selbst aus. Laut OpenAI-Dokumentation liefert es einen Funktionsaufruf zurück, und eure Anwendung führt den Code aus. Genau dort sitzen Prüfungen und Berechtigungen.

Strukturierte Extraktion

Für eine Eingangsrechnung gebt ihr zum Beispiel Felder wie lieferant, rechnungsnummer, rechnungsdatum, nettobetrag und eine Liste von positionen vor. Verlässlich schemakonform wird die Ausgabe erst mit einem schema-erzwingenden Modus: OpenAI beschreibt für Structured Outputs, dass die Antworten dem vorgegebenen JSON-Schema folgen, während der ältere JSON-Modus nur gültiges JSON sicherstellt. Ob Betrag und Datum inhaltlich stimmen, prüft trotzdem eure Anwendung oder ein Mensch.

Middleware, Workflows und Standards

Workflow-Werkzeuge wie n8n verbinden Modelle mit euren Systemen über fertige Bausteine; der AI-Agent-Knoten etwa kombiniert ein Chat-Modell mit Werkzeugen und entscheidet selbst, welche er aufruft. Wann sich solche Agenten lohnen und wie ihr Freigaben einbaut, erklärt KI-Agenten: Beispiele, Kosten und Risiken. Ein offener Standard für solche Anbindungen ist das Model Context Protocol (MCP): Darüber sprechen KI-Anwendungen Datenquellen, Werkzeuge und Workflows an.

RAG für Wissensfragen

RAG verbindet eine Suche in euren Dokumenten mit der Textgenerierung; das Verfahren geht auf eine Arbeit von Lewis u. a. (2020) zurück. Die KI antwortet damit auf Basis eurer Inhalte und kann Quellen nennen. Aufbau, Suche und Qualitätssicherung beschreibt RAG-System einfach erklärt.

Schritt 4: Berechtigungen, Freigaben und Protokolle

Die KI darf nie mehr sehen oder tun als die Person, für die sie arbeitet. Die OWASP-Liste der Top-10-Risiken für LLM-Anwendungen (Ausgabe 2025) nennt dafür klare Regeln:

• Im Kontext des Nutzers handeln: Aktionen laufen mit den Rechten der jeweiligen Person und den minimal nötigen Rechten, nicht über ein allmächtiges Servicekonto. Ein Lese-Assistent braucht keine Lösch- oder Schreibrechte in der Datenbank.
• Autorisierung im Zielsystem: Ob eine Aktion erlaubt ist, entscheidet das CRM oder ERP, nicht das Modell.
• Menschliche Freigabe für Aktionen mit Folgen, etwa Versand an Kunden, Buchung oder Löschung.
• Rechtebewusste Suche: Bei RAG dürfen nur Dokumente in die Antwort, die der Nutzer im Quellsystem sehen darf. Suchdienste bieten dafür Filter, etwa die Security-Trimming-Filter in Azure AI Search.
• Protokollieren und überwachen: Wer hat wann was angefragt, welche Quellen flossen ein, welche Aktion wurde ausgelöst? Da Protokolle selbst personenbezogene Daten enthalten, gilt auch für sie die Datenminimierung; legt fest, wie lange ihr sie aufbewahrt.

Ein eigenes Risiko ist die indirekte Prompt Injection: Liest die KI externe Inhalte wie E-Mails, Webseiten oder Dateien, können darin versteckte Anweisungen ihr Verhalten verändern. Gerade wenn ein Assistent Tickets liest und zugleich Aktionen auslösen darf, sind Freigaben und enge Rechte deshalb Pflichtprogramm.

Schritt 5: Wie messt ihr den Erfolg?

Ohne Vorher-Wert gibt es keinen belegbaren Nachher-Wert. Haltet vor dem Start fest, wie der Prozess heute läuft, und legt die Kriterien fest, nach denen der Pilot weitergeführt, angepasst oder beendet wird.

• Bearbeitungszeit pro Vorgang, gemessen im System statt geschätzt.
• Übernahmequote: Anteil der KI-Vorschläge, die unverändert oder mit kleinen Korrekturen übernommen werden.
• Fehlerquote: falsch erkannte Felder, falsche Kategorien, Antworten ohne passende Quelle.
• Durchlaufzeit vom Eingang bis zum Abschluss, etwa bei Angeboten oder Rechnungen.
• Nutzung: Wie viele im Team arbeiten nach einigen Wochen tatsächlich damit?

Die Korrekturen aus dem Prüfschritt sind dabei euer wertvollstes Material: Sie zeigen, wo Prompt, Schema oder Datenbasis nachgeschärft werden müssen.

Schritt 6: Team befähigen – KI-Kompetenz nach Art. 4 AI Act

Seit dem 2. Februar 2025 gilt die Pflicht zur KI-Kompetenz aus Art. 4 AI Act. Mit dem AI-Omnibus (Verordnung (EU) 2026/1744), in Kraft seit dem 27. Juli 2026, wurde sie neu gefasst: Anbieter und Betreiber ergreifen Maßnahmen, um die Entwicklung der KI-Kompetenz ihres Personals zu unterstützen. Zu berücksichtigen sind technische Kenntnisse, Erfahrung, Ausbildung und der Einsatzkontext. Ein bestimmtes Kompetenzniveau müssen sie ausdrücklich nicht garantieren; Kommission und Mitgliedstaaten sollen vor allem KMU dabei unterstützen.

Praktisch heißt das: Schulungen nach Rolle (wer prüft Vorschläge, wer administriert, wer entscheidet), eine interne KI-Richtlinie mit Beispielen für erlaubte und verbotene Einsätze, betriebliche Accounts statt privater Konten und eine Ansprechperson für Fragen. Solche Schulungen zur KI-Kompetenz sind Teil unserer KI-Beratung.

Gibt es einen Betriebsrat, bezieht ihn früh ein. Nach § 90 Abs. 1 Nr. 3 BetrVG ist er über die Planung von Arbeitsverfahren einschließlich des Einsatzes von Künstlicher Intelligenz rechtzeitig zu unterrichten. Bei technischen Einrichtungen, die dazu bestimmt sind, Verhalten oder Leistung der Beschäftigten zu überwachen, hat er nach § 87 Abs. 1 Nr. 6 BetrVG ein Mitbestimmungsrecht. Und muss er die Einführung von KI beurteilen, gilt die Hinzuziehung eines Sachverständigen nach § 80 Abs. 3 BetrVG als erforderlich.

Schritt 7: Ausweiten – und diese Stolperfallen vermeiden

Läuft der Pilot stabil, erweitert ihr Schritt für Schritt: mehr Volumen, einen angrenzenden Prozess, dann mehr Automatisierung bei eindeutigen Standardfällen. Diese Fehler solltet ihr vermeiden:

• Insel-Tool statt Integration: Ein separates Chatfenster ohne Zugriff auf Kunden-, Preis- oder Ticketdaten zwingt zum Kopieren zwischen Systemen und kennt euren Kontext nicht.
• Zu großer Start: „Die KI übernimmt den Vertrieb“ ist kein Pilot. Ein Prozess, eine Kennzahl.
• Servicekonto mit Vollzugriff: bequem in der Entwicklung, riskant im Betrieb.
• Ungeprüfte Ausgaben: Auch falsche Angaben können plausibel klingen. Quellenpflicht, Schema-Validierung und Prüfschritt fangen das ab.
• Prompts ohne Versionierung: Prompts und Schemas gehören wie Code ins Repository, mit Tests.
• Feste Bindung an ein Modell: Eine Abstraktionsschicht oder eine OpenAI-kompatible Schnittstelle, wie sie etwa IONOS, STACKIT oder Ollama anbieten, hält den Wechsel offen.
• Das Team vergessen: Wer nicht versteht, was die KI tut, nutzt sie nicht. Erklären, Feedback einsammeln, nachbessern.

Der nächste Schritt

Schaut euch euren lästigsten Routineprozess im CRM, ERP oder Ticketsystem an und prüft ihn gegen die Kriterien aus Schritt 1. KI über Schnittstellen in bestehende Systeme einzubinden, inklusive RAG-Assistenten mit Quellenangabe, ist der Kern unserer KI-Integration; im kostenlosen 20-minütigen Erstgespräch klären wir, ob sich euer Prozess als Start eignet.

Quellen

1. Function calling – OpenAI API-Dokumentation, abgerufen am 4. November 2026
2. Structured model outputs – OpenAI API-Dokumentation, abgerufen am 4. November 2026
3. Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks – Lewis u. a., arXiv, 2020
4. LLM06:2025 Excessive Agency – OWASP Gen AI Security Project, abgerufen am 4. November 2026
5. LLM01:2025 Prompt Injection – OWASP Gen AI Security Project, abgerufen am 4. November 2026
6. Artikel 4: KI-Kompetenz – AI Act Service Desk, Europäische Kommission, abgerufen am 4. November 2026
7. AI Omnibus enters into force – Europäische Kommission, 27. Juli 2026
8. § 90 BetrVG – Unterrichtungs- und Beratungsrechte – gesetze-im-internet.de, abgerufen am 4. November 2026